댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 27800 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 1109 |
G77 : 포트란77 컴파일러
|
도은철 | 2006.09.05 | 64078 |
| 1108 |
숙제 #1.
|
도은철 | 2006.09.05 | 29717 |
| 1107 |
포트란 ppt자료
|
도은철 | 2006.09.05 | 33809 |
| 1106 | C 수업 자료 입니다 | 김은하 | 2006.09.07 | 29500 |
| 1105 |
숙제-역행렬
|
윤대원 | 2006.10.09 | 29590 |
| 1104 | asn2 20001253 이동학 | 이동학 | 2006.10.10 | 29428 |
| 1103 |
숙제3(역행렬과 Gaussian Elimination)
1 |
송양희 | 2006.10.10 | 34895 |
| 1102 |
HW3
|
김은하 | 2006.10.10 | 29290 |
| 1101 |
HW#3
|
김경옥 | 2006.10.10 | 30547 |
| 1100 |
숙제#3
|
고원석 | 2006.10.10 | 28546 |
| 1099 |
숙제3번
|
김동언 | 2006.10.10 | 29108 |
| 1098 | Inverse Matrix(hW#3) | 한인모 | 2006.10.10 | 31637 |
| 1097 |
Inverse Matrix
|
서경덕 | 2006.10.10 | 29101 |
| 1096 |
Homework - 4
|
Byeong-Joo Lee | 2006.10.11 | 29161 |
| 1095 |
윤대원 20031206 숙제4번입니다.
|
윤대원 | 2006.10.12 | 29332 |
| 1094 |
숙제4
|
송양희 | 2006.10.16 | 29085 |
| 1093 |
20001253 이동학 asn4
|
이동학 | 2006.10.16 | 29393 |
| 1092 |
김은하 Hw #4
|
김은하 | 2006.10.17 | 29675 |
| 1091 | Si_Ge Phasediagram(Homework #4) | 한인모 | 2006.10.17 | 28696 |
| 1090 |
Homework#4
|
김경옥 | 2006.10.17 | 28348 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
