댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20773 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
129 | [Mid-Term] 신호철 | 신호철 | 2013.11.05 | 18964 |
128 | [Mid-Term] 양석주 | 양석주 | 2013.11.05 | 19310 |
127 | [Mid-term] 윤다섭 | 윤다섭 | 2015.04.27 | 17688 |
126 | [Mid-Term] 윤재익 | 윤재익1 | 2013.11.05 | 19496 |
125 | [Mid-Term] 이상현 | 이상현 | 2013.11.05 | 18813 |
124 | [Mid-term] 이수빈 | 이수빈 | 2014.04.29 | 17208 |
123 | [Mid-Term] 이종원 | 이종원 | 2013.11.05 | 20342 |
122 | [Mid-Term] 임석재 | 임석재 | 2013.11.05 | 20065 |
121 | [Mid-Term] 장민지 | 장민지 | 2014.04.29 | 17714 |
120 | [Mid-Term] 최원미 | 원미 | 2013.11.05 | 21818 |
119 | [Mid-term] 하헌진 | 하헌진 | 2014.04.29 | 19866 |
118 | [Mid-term] 홍승표 | kriswow | 2014.04.28 | 23134 |
117 | [Mid-term]김재현 1 | morinoakim | 2017.04.20 | 15057 |
116 | [mid-term]임범환 | 임범환 | 2017.04.20 | 14963 |
115 | [mid-term]조현렬 1 | 현렬조 | 2016.04.25 | 19108 |
114 | [Midterm] 김동훈 | 김동훈 | 2015.04.27 | 17787 |
113 | [Midterm] 김상헌 2 | 김상헌 | 2016.04.14 | 18309 |
112 | [midterm] 김용민 | angbeat | 2014.04.29 | 21172 |
111 | [midterm] 도현석 2 | 도현석 | 2016.04.26 | 17307 |
110 | [MIDTERM] 박시진 | 박시진 | 2015.04.28 | 17265 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5