댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20784 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
269 | 3번째 숙제-이휘원. | 이휘원 | 2009.09.15 | 21446 |
268 | HW#3_최민기 | 최민기 | 2009.09.14 | 19229 |
267 | HW#3_오승재 | 오승재 | 2009.09.14 | 20985 |
266 | HW#3_김지현 | 김지현 | 2009.09.14 | 20077 |
265 | HW#3_문현우 | 문현우 | 2009.09.14 | 19262 |
264 | HW#3 1변수 방정식 | 이준호 | 2009.09.14 | 20349 |
263 | HW#3 1변수 방정식 | 김영광 | 2009.09.14 | 21108 |
262 | HW#3_최지원 | 최지원 | 2009.09.14 | 20643 |
261 | HW#3_정혁재 | 정혁재 | 2009.09.11 | 20614 |
260 | 숙제 1 복습 | 이휘원 | 2009.09.07 | 19852 |
259 | HW#2_김지현 | 김지현 | 2009.09.07 | 21572 |
258 | HW#2_오승재 | 오승재 | 2009.09.07 | 19264 |
257 | HW#2_최민기 | 최민기 | 2009.09.07 | 21338 |
256 | HW#2 김영광 1 | 김영광 | 2009.09.07 | 22370 |
255 | HW#2_이준호 | 이준호 | 2009.09.07 | 19343 |
254 | HW2_최지원 | 최지원 | 2009.09.07 | 21032 |
253 | HW#2_정혁재 | 정혁재 | 2009.09.07 | 22490 |
252 | HW#2_박효욱 | 박효욱 | 2009.09.07 | 19325 |
251 | HW#2_문현우 | 문현우 | 2009.09.03 | 20292 |
250 | HW#1 | 오승재 | 2009.09.03 | 20398 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5