댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20676 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 936 |
Ge-Si Phase Diagram data
|
박한나 | 2012.09.27 | 18356 |
| 935 |
Ge-Si phase diagram data
|
Byeong-Joo Lee | 2017.03.23 | 13896 |
| 934 |
Ge-Si 상태도 data
|
Byeong-Joo Lee | 2014.03.29 | 18242 |
| 933 |
Ge-Si 상태도 data
|
Byeong-Joo Lee | 2016.03.22 | 15597 |
| 932 |
Ge-Si 상태도 data point
|
Byeong-Joo Lee | 2013.10.01 | 17300 |
| 931 | Gibbs energy of melting | Byeong-Joo Lee | 2012.09.27 | 18695 |
| 930 |
Homework - 4
|
Byeong-Joo Lee | 2006.10.11 | 22159 |
| 929 |
Homework#4
|
김경옥 | 2006.10.17 | 21843 |
| 928 |
Homework#4. 20021127 서병찬
|
서병찬 | 2008.10.21 | 21130 |
| 927 |
Homework#7
|
김경옥 | 2006.11.21 | 19427 |
| 926 |
Homework#7 20021127 서병찬
|
서병찬 | 2008.11.11 | 22521 |
| 925 |
Homework#8
|
김경옥 | 2006.11.28 | 20242 |
| 924 |
Homework#8 서병찬
|
서병찬 | 2008.11.17 | 19239 |
| 923 |
HW #1
1
|
오신영 | 2012.09.06 | 18656 |
| 922 |
HW #2
|
이은구 | 2008.09.15 | 19685 |
| 921 |
HW #3
|
김선웅 | 2008.09.30 | 19763 |
| 920 | HW #5 | 김은하 | 2006.11.14 | 19816 |
| 919 |
HW #5 김선웅
|
김선웅 | 2008.10.21 | 20853 |
| 918 | HW #7 | 김은하 | 2006.11.21 | 18800 |
| 917 | HW #8 | 김은하 | 2006.11.28 | 19494 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5