댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20772 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
149 | HW_1 20061114 이은구 | 이은구 | 2008.09.11 | 18729 |
148 | HW1 _ 이지산 | 이지산 | 2008.09.10 | 21130 |
147 | HW#1_서병찬 | 서병찬 | 2008.09.10 | 20847 |
146 | HW1_민성용 | 민성용 | 2008.09.10 | 20945 |
145 | HW1_이정훈 | 이정훈 | 2008.09.10 | 19936 |
144 | HW1_김경수 | 김경수 | 2008.09.10 | 20327 |
143 | HW1_김혜민 | 김혜민 | 2008.09.10 | 20097 |
142 | final01&02_김지훈 | 김지훈 | 2007.12.24 | 20741 |
141 | Final_Term2_김현수 | 김현수 | 2007.12.20 | 21104 |
140 | Final_Term1_김현수 1 | 김현수 | 2007.12.20 | 21714 |
139 | Final_term2_김기수 | 김기수 | 2007.12.18 | 20076 |
138 | Final_term_김기수 | 김기수 | 2007.12.18 | 20603 |
137 | Final-Term Report_이태경 | 이태경 | 2007.12.17 | 20579 |
136 | 자유주제_이태경(완전판) | 이태경 | 2007.12.07 | 22083 |
135 | Term-Report 2 | Byeong-Joo Lee | 2007.12.04 | 21813 |
134 | HW#8_이태경 | 이태경 | 2007.11.29 | 21139 |
133 | hw#8_김지훈 | 김지훈 | 2007.11.29 | 20768 |
132 | HW#8_김기수 | 김기수 | 2007.11.29 | 20856 |
131 | HW#8_김현수 | 김현수 | 2007.11.28 | 19663 |
130 | HW#7_김현수 | 김현수 | 2007.11.22 | 21512 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5