댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20782 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
109 |
[Midterm] 양운
2 ![]() |
양운 | 2016.04.26 | 15793 |
108 |
[Midterm] 유창재
2 ![]() |
유창재 | 2016.04.26 | 16756 |
107 |
[midterm] 이기훈
![]() |
이기훈 | 2017.10.30 | 4361 |
106 |
[Midterm] 이길운
![]() |
이길운 | 2015.04.28 | 18853 |
105 |
[MIDTERM] 이원태
![]() |
이원태 | 2015.04.27 | 17408 |
104 |
[midterm] 장경현
![]() |
장경현 | 2016.04.26 | 15510 |
103 |
[midterm] 장재덕
![]() |
장재덕 | 2015.04.28 | 17686 |
102 |
[Midterm] 조규봉
![]() |
조규봉 | 2015.04.28 | 18459 |
101 |
[Midterm] 조장웅
![]() |
조장웅 | 2017.04.20 | 13570 |
100 |
[Midterm] 한철희
![]() |
한철희 | 2017.04.20 | 14194 |
99 |
[Midterm]_유종명
![]() |
명이에요 | 2014.04.29 | 17973 |
98 |
[MIDTERM]김민정
![]() |
김민정 | 2017.04.20 | 15345 |
97 |
[Midterm]김성진
![]() |
김성진 | 2017.10.30 | 4421 |
96 |
[midterm]엄지섭
![]() |
엄지섭 | 2015.04.28 | 17037 |
95 |
[Midterm]조혜성
![]() |
S.J | 2017.04.20 | 14608 |
94 |
[Mid]도경연
6 ![]() |
도경연 | 2016.04.26 | 18872 |
93 |
[Multi-component Diffusion]
![]() |
Byeong-Joo Lee | 2017.11.15 | 4722 |
92 |
[Multi-component Diffusion]
![]() |
Byeong-Joo Lee | 2021.11.18 | 193 |
91 |
[Multicomponent Diffusion]
![]() |
Byeong-Joo Lee | 2015.05.12 | 20302 |
90 |
[Reference state] Enthalpy of mixing vs. enthalpy of formation ...
![]() |
Byeong-Joo Lee | 2022.10.04 | 108 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5