댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20773 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
369 | [HW3] 이원태 | 이원태 | 2015.03.24 | 16528 |
368 | [HW#9] 유창재 | 유창재 | 2016.05.31 | 16521 |
367 | [hw04]조현렬 | 현렬조 | 2016.03.29 | 16511 |
366 | [HW#9] 이길운 | 이길운 | 2015.05.31 | 16503 |
365 | [HW#5] 양운 | 양운 | 2016.04.04 | 16498 |
364 | [HW#4]김민정 | 김민정 | 2017.03.30 | 16479 |
363 | [Final term] 이학현 | 이학현 | 2015.06.20 | 16476 |
362 | [HW#3] 김상헌 | 김상헌 | 2016.03.18 | 16455 |
361 | HW8 이원태 | 이원태 | 2015.05.18 | 16433 |
360 | [final] 장재덕 | 장재덕 | 2015.06.20 | 16414 |
359 | [HW#7]송수범 2 | 송수범 | 2016.04.29 | 16410 |
358 | HW#7 이학현 | 이학현 | 2015.05.11 | 16369 |
357 | [HW#1] 송수범 | 송수범 | 2016.03.08 | 16348 |
356 | [HW#7] 유창재 1 | 유창재 | 2016.05.03 | 16318 |
355 | [HW#1&2] 이학현 | 이학현 | 2015.03.17 | 16287 |
354 | hw01발표자료_조현렬 | 현렬조 | 2016.03.06 | 16193 |
353 | [Final] 김동훈 | 김동훈 | 2015.06.19 | 16162 |
352 | [HW#2] 장경현 숙제제출합니다. | 장경현 | 2016.03.15 | 16160 |
351 | [HW#1] 유창재 | 유창재 | 2016.03.08 | 16157 |
350 | [HW#1]도경연 | 도경연 | 2016.03.06 | 16145 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5