댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20772 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
189 | Darken's uphill diffusion | Byeong-Joo Lee | 2006.12.06 | 21400 |
188 | [HW#9] 김동훈 | 김동훈 | 2015.05.31 | 21416 |
187 | 숙제#7 상미분방정식 20031206 윤대원 | 윤대원 | 2006.11.16 | 21421 |
186 | HW#5_정혁재 | 정혁재 | 2009.09.28 | 21423 |
185 | 3번째 숙제-이휘원. | 이휘원 | 2009.09.15 | 21426 |
184 | 20031022 서경덕 Hw8 | 서경덕 | 2006.11.28 | 21445 |
183 | HW#6_최지원 | 최지원 | 2009.10.11 | 21448 |
182 | Mid-Term Report_이태경 | 이태경 | 2007.10.27 | 21456 |
181 | [HW#2] 임석재 | 임석재 | 2013.09.05 | 21458 |
180 | HW#4_정혁재 | 정혁재 | 2009.09.21 | 21460 |
179 | 한인모 Final term 1 | 한인모 | 2006.12.12 | 21464 |
178 | HW#7_김기수 | 김기수 | 2007.11.22 | 21483 |
177 | 숙제 4 20061114 이은구 | 이은구 | 2008.10.09 | 21500 |
176 | 숙제 #6 20041008송양희 1 | 송양희 | 2006.11.13 | 21502 |
175 | [HW#7] 장민지 | 장민지 | 2014.05.13 | 21502 |
174 | HW#4_이태경 | 이태경 | 2007.10.03 | 21506 |
173 | HW#8_이준호 | 이준호 | 2009.11.16 | 21511 |
172 | HW#7_김현수 | 김현수 | 2007.11.22 | 21512 |
171 | mid-term Report 정답 | Byeong-Joo Lee | 2007.10.23 | 21518 |
170 | HW8_이정훈 | 이정훈 | 2008.11.17 | 21523 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5