댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 25164 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
| 첨부파일 '1' |
|---|
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 1069 | 숙제4 | 서경덕 | 2006.10.17 | 24185 |
| 1068 |
숙제3번
|
김동언 | 2006.10.10 | 27107 |
| 1067 |
숙제3(역행렬과 Gaussian Elimination)
1
|
송양희 | 2006.10.10 | 32816 |
| 1066 |
숙제1번
|
박효욱 | 2009.09.03 | 23938 |
| 1065 |
숙제-역행렬
|
윤대원 | 2006.10.09 | 27548 |
| 1064 | 숙제#7 상미분방정식 20031206 윤대원 | 윤대원 | 2006.11.16 | 25751 |
| 1063 |
숙제#5
|
고원석 | 2006.11.14 | 23889 |
| 1062 |
숙제#5
|
이은구 | 2008.10.20 | 24549 |
| 1061 |
숙제#4
|
고원석 | 2006.10.17 | 23678 |
| 1060 |
숙제#3
|
고원석 | 2006.10.10 | 26467 |
| 1059 |
숙제#1 예습문제
|
이휘원 | 2009.09.03 | 25857 |
| 1058 |
숙제 9번
|
이은구 | 2008.11.25 | 24334 |
| 1057 |
숙제 7
|
이은구 | 2008.11.11 | 24426 |
| 1056 |
숙제 4 20061114 이은구
|
이은구 | 2008.10.09 | 25762 |
| 1055 |
숙제 1번입니다.
|
최민기 | 2009.09.03 | 23251 |
| 1054 |
숙제 1 복습
|
이휘원 | 2009.09.07 | 24431 |
| 1053 |
숙제 #6 20041008송양희
1
|
송양희 | 2006.11.13 | 25720 |
| 1052 |
숙제 #1.
|
도은철 | 2006.09.05 | 27466 |
| » |
수치해석 Assignment #1 (9/11 숙제)
|
이경원 | 2007.09.18 | 25164 |
| 1050 |
수치적분-20031206윤대원
|
윤대원 | 2006.11.01 | 25532 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5