댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20784 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
69 | Final_term2_김기수 | 김기수 | 2007.12.18 | 20081 |
68 | Final_Term1_김현수 1 | 김현수 | 2007.12.20 | 21717 |
67 | Finaltermpaper1 | 김동언 | 2006.12.12 | 20005 |
66 | finalterm2 | 김동언 | 2006.12.14 | 19451 |
65 | finalterm2 | 고원석 | 2006.12.14 | 20168 |
64 | final2 이동학 | 이동학 | 2006.12.13 | 20302 |
63 | final2 | 김은하 | 2006.12.14 | 18748 |
62 | Final1 이동학 | 이동학 | 2006.12.12 | 19741 |
61 | final01&02_김지훈 | 김지훈 | 2007.12.24 | 20746 |
60 | final-term 과제_정혁재 | 정혁재 | 2009.12.19 | 23410 |
59 | Final-Term Report_이태경 | 이태경 | 2007.12.17 | 20590 |
58 | Final-Report | Byeong-Joo Lee | 2006.11.21 | 22426 |
57 | final+free term project | 정재면 | 2012.12.18 | 18239 |
56 | final&free_이미소 | 이미소 | 2012.12.18 | 18956 |
55 | final!! | 임범환 | 2017.06.01 | 9431 |
54 | Final 현렬조 1 | 현렬조 | 2016.06.14 | 17995 |
53 | final 지정종목 20031206 윤대원 | 윤대원 | 2006.12.11 | 20531 |
52 | final 자유종목 20031206 윤대원 | 윤대원 | 2006.12.12 | 20662 |
51 | final 이창호 | 이창호 | 2017.12.20 | 5479 |
50 | final 이지수 | 이지수 | 2021.12.16 | 124 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5