댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20676 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
936 |
Ge-Si Phase Diagram data
![]() |
박한나 | 2012.09.27 | 18356 |
935 |
Ge-Si phase diagram data
![]() |
Byeong-Joo Lee | 2017.03.23 | 13896 |
934 |
Ge-Si 상태도 data
![]() |
Byeong-Joo Lee | 2014.03.29 | 18242 |
933 |
Ge-Si 상태도 data
![]() |
Byeong-Joo Lee | 2016.03.22 | 15597 |
932 |
Ge-Si 상태도 data point
![]() |
Byeong-Joo Lee | 2013.10.01 | 17300 |
931 | Gibbs energy of melting | Byeong-Joo Lee | 2012.09.27 | 18695 |
930 |
Homework - 4
![]() |
Byeong-Joo Lee | 2006.10.11 | 22159 |
929 |
Homework#4
![]() |
김경옥 | 2006.10.17 | 21843 |
928 |
Homework#4. 20021127 서병찬
![]() |
서병찬 | 2008.10.21 | 21130 |
927 |
Homework#7
![]() |
김경옥 | 2006.11.21 | 19427 |
926 |
Homework#7 20021127 서병찬
![]() |
서병찬 | 2008.11.11 | 22521 |
925 |
Homework#8
![]() |
김경옥 | 2006.11.28 | 20242 |
924 |
Homework#8 서병찬
![]() |
서병찬 | 2008.11.17 | 19239 |
923 |
HW #1
1 ![]() |
오신영 | 2012.09.06 | 18656 |
922 |
HW #2
![]() |
이은구 | 2008.09.15 | 19685 |
921 |
HW #3
![]() |
김선웅 | 2008.09.30 | 19763 |
920 | HW #5 | 김은하 | 2006.11.14 | 19816 |
919 |
HW #5 김선웅
![]() |
김선웅 | 2008.10.21 | 20853 |
918 | HW #7 | 김은하 | 2006.11.21 | 18800 |
917 | HW #8 | 김은하 | 2006.11.28 | 19494 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5