댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20772 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
309 | [HW#5] 유창재 | 유창재 | 2016.04.05 | 15891 |
308 | [HW#5] 윤다섭 | 윤다섭 | 2015.04.13 | 16887 |
307 | [HW#5] 윤재익 | 윤재익1 | 2013.10.07 | 21225 |
306 | [HW#5] 이기훈 | 이기훈 | 2017.10.23 | 4837 |
305 | [HW#5] 이길운 | 이길운 | 2015.04.14 | 17234 |
304 | [HW#5] 이상현 | 이상현 | 2013.10.07 | 17534 |
303 | [HW#5] 이종원 3 | 이종원 | 2013.09.29 | 18140 |
302 | [HW#5] 임석재 | 임석재 | 2013.10.06 | 17619 |
301 | [HW#5] 장경현 | 장경현 | 2016.04.05 | 15379 |
300 | [HW#5] 장민지 | 장민지 | 2014.04.07 | 17514 |
299 | [HW#5] 장재덕 1 | 장재덕 | 2015.04.14 | 19945 |
298 | [HW#5] 최원미 | 원미 | 2013.10.08 | 22437 |
297 | [HW#5] 하헌진 | 하헌진 | 2014.04.08 | 16938 |
296 | [HW#5] 한철희(revised) | 한철희 | 2017.04.11 | 14390 |
295 | [HW#5] 홍승표 | kriswow | 2014.04.08 | 17630 |
294 | [HW#5]김민정 | 김민정 | 2017.04.11 | 13713 |
293 | [HW#5]김성진 | 김성진 | 2017.10.23 | 4507 |
292 | [HW#5]김재현 | morinoakim | 2017.04.11 | 15040 |
291 | [HW#5]도경연 | 도경연 | 2016.04.03 | 17173 |
290 | [HW#5]이수빈 | 이수빈 | 2014.04.08 | 18117 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5