댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20770 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
189 | Homework#4. 20021127 서병찬 | 서병찬 | 2008.10.21 | 21199 |
188 | HW5_김혜민 | 김혜민 | 2008.10.21 | 20696 |
187 | hw5_김경수 | 김경수 | 2008.10.21 | 20783 |
186 | 숙제#5 | 이은구 | 2008.10.20 | 19960 |
185 | 중간고사문제 앞부분 - 이승석 | 이승석 | 2008.10.19 | 22329 |
184 | Midterm Report (HW#6) 2 | Byeong-Joo Lee | 2008.10.16 | 21242 |
183 | HW#4_김선웅 | 김선웅 | 2008.10.09 | 22251 |
182 | Hw#4. 서병찬 | 서병찬 | 2008.10.09 | 21706 |
181 | 숙제 4 20061114 이은구 | 이은구 | 2008.10.09 | 21500 |
180 | HW4_이지산 | 이지산 | 2008.10.08 | 24178 |
179 | HW4_황혜성 | 황혜성 | 2008.10.08 | 21914 |
178 | hw4_김경수 | 김경수 | 2008.10.07 | 21116 |
177 | HW4_이정훈 | 이정훈 | 2008.10.07 | 21628 |
176 | HW4_김혜민 | 김혜민 | 2008.10.06 | 20638 |
175 | HW#4_민성용 | 민성용 | 2008.10.06 | 22600 |
174 | HW4 이승석 | 이승석 | 2008.10.04 | 21972 |
173 | HW4 정답 | Byeong-Joo Lee | 2008.10.03 | 21566 |
172 | HW4 - 상태도 계산 | Byeong-Joo Lee | 2008.09.30 | 22318 |
171 | HW3_황혜성 | 황혜성 | 2008.09.30 | 21235 |
170 | HW #3 | 김선웅 | 2008.09.30 | 19854 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5