댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20773 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
869 | [HW#7] 장민지 | 장민지 | 2014.05.13 | 21503 |
868 | [HW#7] 이수빈 | 이수빈 | 2014.05.13 | 23236 |
867 | [HW#7] 이길운 | 이길운 | 2015.05.12 | 21864 |
866 | [HW#7] 이기훈 | 이기훈 | 2017.11.19 | 4786 |
865 | [HW#7] 유창재 1 | 유창재 | 2016.05.03 | 16318 |
864 | [HW#7] 엄지섭 | 엄지섭 | 2015.05.12 | 21267 |
863 | [HW#7] 양운 1 | 양운 | 2016.05.01 | 18987 |
862 | [HW#7] 설동혁 | 설동혁 | 2015.05.12 | 22725 |
861 | [HW#7] 서현선 | 서현선 | 2014.05.13 | 22612 |
860 | [HW#7] 박시진 | 박시진 | 2015.05.12 | 19514 |
859 | [HW#7] 도현석 1 | 도현석 | 2016.05.03 | 18284 |
858 | [HW#7] 김상헌 2 | 김상헌 | 2016.04.27 | 17085 |
857 | [HW#7] 김동훈 | 김동훈 | 2015.05.10 | 19789 |
856 | [HW#6]조혜성 | S.J | 2017.04.24 | 15470 |
855 | [HW#6]조규봉 | 조규봉 | 2015.04.21 | 19028 |
854 | [HW#6]장재덕 | 장재덕 | 2015.04.21 | 17206 |
853 | [HW#6]도경연 1 | 도경연 | 2016.04.09 | 16735 |
852 | [HW#6]김재현 | morinoakim | 2017.04.22 | 15564 |
851 | [HW#6]김성진 | 김성진 | 2017.11.08 | 4960 |
850 | [HW#6]김민정 | 김민정 | 2017.04.25 | 14340 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5