댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20803 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
69 |
Final 1
![]() |
김은하 | 2006.12.12 | 19584 |
68 |
Final term
![]() |
고원석 | 2006.12.12 | 20454 |
67 |
한인모 Final term 1
![]() |
한인모 | 2006.12.12 | 21505 |
66 |
Final term 1
![]() |
김경옥 | 2006.12.12 | 20085 |
65 |
Final1 이동학
![]() |
이동학 | 2006.12.12 | 19752 |
64 | [1차 final_term] Darken's Uphill Diffusion | 송양희 | 2006.12.12 | 21191 |
63 |
final 지정종목 20031206 윤대원
![]() |
윤대원 | 2006.12.11 | 20546 |
62 | Darken's uphill diffusion | Byeong-Joo Lee | 2006.12.06 | 21436 |
61 | HW #8 | 김은하 | 2006.11.28 | 19545 |
60 |
HW#8
![]() |
고원석 | 2006.11.28 | 21305 |
59 |
HW8
![]() |
김동언 | 2006.11.28 | 20076 |
58 | 한인모 hw8 | 한인모 | 2006.11.28 | 22077 |
57 |
이동학 asn8
![]() |
이동학 | 2006.11.28 | 21651 |
56 |
20031022 서경덕 Hw8
![]() |
서경덕 | 2006.11.28 | 21465 |
55 |
Homework#8
![]() |
김경옥 | 2006.11.28 | 20299 |
54 | #8 편미분 방정식 | 송양희 | 2006.11.27 | 21726 |
53 |
HW#8 편미분 방정식 20031206 윤대원
![]() |
윤대원 | 2006.11.25 | 21599 |
52 |
Final-Report
![]() |
Byeong-Joo Lee | 2006.11.21 | 22430 |
51 | ans #7 20031022 서경덕 | 서경덕 | 2006.11.21 | 21183 |
50 |
asn7 이동학
![]() |
이동학 | 2006.11.21 | 22374 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5