댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20773 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
129 | Final_term_박효욱 | 박효욱 | 2009.12.21 | 21857 |
128 | 첫번째 개인 과제물 예습 문제 | 김성환 | 2007.09.09 | 21864 |
127 | hw3_김경수 1 | 김경수 | 2008.09.30 | 21864 |
126 | [HW#7] 이길운 | 이길운 | 2015.05.12 | 21864 |
125 | 한인모 hw#7 | 한인모 | 2006.11.20 | 21875 |
124 | Homework#4 | 김경옥 | 2006.10.17 | 21898 |
123 | HW7_민성용 | 민성용 | 2008.11.10 | 21905 |
122 | Final_황혜성(Darken Uphill Diffusion) | 황혜성 | 2008.12.16 | 21905 |
121 | HW4_황혜성 | 황혜성 | 2008.10.08 | 21914 |
120 | [Final] 최원미 | 원미 | 2013.12.16 | 21917 |
119 | HW#2_김현수 | 김현수 | 2007.09.19 | 21922 |
118 | 한인모 hw#6 | 한인모 | 2006.11.14 | 21936 |
117 | HW#1_정혁재 | 정혁재 | 2009.09.02 | 21947 |
116 | 첫반째 숙제 20061272이승석 | 이승석 | 2008.09.11 | 21949 |
115 | mid-term Report 정답 | Byeong-Joo Lee | 2008.10.21 | 21952 |
114 | HW4 이승석 | 이승석 | 2008.10.04 | 21972 |
113 | 한인모 Midterm report | 한인모 | 2006.11.07 | 21976 |
112 | [Final] 양석주 | 양석주 | 2013.12.17 | 21988 |
111 | HW#3 | 오신영 | 2012.09.18 | 21990 |
110 | [HW#3] 유종명 | 명이에요 | 2014.03.25 | 21997 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5