댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20769 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
869 | HW#4_이준호 | 이준호 | 2009.09.21 | 20928 |
868 | HW#5_최민기 | 최민기 | 2009.09.28 | 20922 |
867 | HW #5 김선웅 | 김선웅 | 2008.10.21 | 20919 |
866 | [HW#8] 설동혁 | 설동혁 | 2015.05.19 | 20913 |
865 | precision 문제 | 김현수 | 2007.09.17 | 20910 |
864 | mid-term 과제_정혁재 | 정혁재 | 2009.11.03 | 20897 |
863 | HW#6_최민기 | 최민기 | 2009.10.12 | 20883 |
862 | [HW#5] 신호철 | 신호철 | 2013.10.08 | 20882 |
861 | final term report 이승석 | 이승석 | 2008.12.15 | 20877 |
860 | HW#7_이경원 | 이경원 | 2007.11.21 | 20868 |
859 | HW#7 이승석 | 이승석 | 2008.11.11 | 20863 |
858 | HW#5_김지현 | 김지현 | 2009.09.29 | 20860 |
857 | HW#8_김기수 | 김기수 | 2007.11.29 | 20854 |
856 | HW#1_서병찬 | 서병찬 | 2008.09.10 | 20845 |
855 | [HW#9] 하헌진 | 하헌진 | 2014.05.27 | 20833 |
854 | HW#8_박효욱 | 박효욱 | 2009.11.16 | 20811 |
853 | [HW #5] 김동훈 | 김동훈 | 2015.04.13 | 20788 |
852 | 1장 과제 | 김지훈 | 2007.09.17 | 20788 |
851 | hw5_김경수 | 김경수 | 2008.10.21 | 20783 |
850 | Final Term2 서경덕 | 서경덕 | 2006.12.17 | 20781 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5