댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20779 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
첨부파일 '1' |
---|
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
269 |
Final_이정훈
![]() |
이정훈 | 2008.12.15 | 20708 |
268 |
Final_term_민성용
![]() |
민성용 | 2008.12.16 | 20723 |
267 | HW#2_이경원 | 이경원 | 2007.09.20 | 20735 |
266 |
final01&02_김지훈
![]() |
김지훈 | 2007.12.24 | 20743 |
265 |
hw7 이지산
![]() |
이지산 | 2008.11.11 | 20747 |
264 |
Mid-term report 20031206 윤대원
![]() |
윤대원 | 2006.11.06 | 20756 |
263 |
Mid-term paper(수정)
![]() |
고원석 | 2006.11.07 | 20768 |
262 |
hw#8_김지훈
![]() |
김지훈 | 2007.11.29 | 20768 |
» |
수치해석 Assignment #1 (9/11 숙제)
![]() |
이경원 | 2007.09.18 | 20779 |
260 |
hw5_김경수
![]() |
김경수 | 2008.10.21 | 20788 |
259 |
Final Term2 서경덕
![]() |
서경덕 | 2006.12.17 | 20790 |
258 | 1장 과제 | 김지훈 | 2007.09.17 | 20792 |
257 |
[HW #5] 김동훈
![]() |
김동훈 | 2015.04.13 | 20798 |
256 |
HW#8_박효욱
![]() |
박효욱 | 2009.11.16 | 20819 |
255 |
[HW#9] 하헌진
![]() |
하헌진 | 2014.05.27 | 20836 |
254 |
HW#1_서병찬
![]() |
서병찬 | 2008.09.10 | 20851 |
253 |
HW#8_김기수
![]() |
김기수 | 2007.11.29 | 20860 |
252 |
HW#5_김지현
![]() |
김지현 | 2009.09.29 | 20864 |
251 |
HW#7 이승석
![]() |
이승석 | 2008.11.11 | 20867 |
250 |
HW#7_이경원
![]() |
이경원 | 2007.11.21 | 20869 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5