댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20816 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
1069 | 수치적분 | 김동언 | 2006.11.14 | 19669 |
1068 | 숙제#5 | 고원석 | 2006.11.14 | 19885 |
1067 | 숙제#7 상미분방정식 20031206 윤대원 | 윤대원 | 2006.11.16 | 21443 |
1066 | #7 상미분방정식 2004108 송양희 | 송양희 | 2006.11.18 | 22070 |
1065 | 한인모 hw#7 | 한인모 | 2006.11.20 | 21918 |
1064 | HW #7 | 김은하 | 2006.11.21 | 18883 |
1063 | Homework#7 | 김경옥 | 2006.11.21 | 19482 |
1062 | HW#7 | 고원석 | 2006.11.21 | 20715 |
1061 | 숙제7 | 김동언 | 2006.11.21 | 21854 |
1060 | asn7 이동학 | 이동학 | 2006.11.21 | 22389 |
1059 | ans #7 20031022 서경덕 | 서경덕 | 2006.11.21 | 21198 |
1058 | Final-Report | Byeong-Joo Lee | 2006.11.21 | 22438 |
1057 | HW#8 편미분 방정식 20031206 윤대원 | 윤대원 | 2006.11.25 | 21613 |
1056 | #8 편미분 방정식 | 송양희 | 2006.11.27 | 21741 |
1055 | Homework#8 | 김경옥 | 2006.11.28 | 20312 |
1054 | 20031022 서경덕 Hw8 | 서경덕 | 2006.11.28 | 21481 |
1053 | 이동학 asn8 | 이동학 | 2006.11.28 | 21692 |
1052 | 한인모 hw8 | 한인모 | 2006.11.28 | 22095 |
1051 | HW8 | 김동언 | 2006.11.28 | 20080 |
1050 | HW#8 | 고원석 | 2006.11.28 | 21312 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5