댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20816 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
849 | [HW#6] 홍승표 | kriswow | 2014.04.14 | 18001 |
848 | [HW#6] 한철희 2 | 한철희 | 2017.04.24 | 13513 |
847 | [HW#6] 하헌진 | 하헌진 | 2014.04.15 | 23181 |
846 | [HW#6] 조장웅 | 조장웅 | 2017.04.24 | 12732 |
845 | [HW#6] 장민지 | 장민지 | 2014.04.12 | 22218 |
844 | [hw#6] 장경현 | 장경현 | 2016.04.09 | 16837 |
843 | [HW#6] 임석재 | 임석재 | 2013.10.21 | 17776 |
842 | [HW#6] 이학현 | 이학현 | 2015.04.20 | 20604 |
841 | [HW#6] 이종원 | 이종원 | 2013.10.20 | 22468 |
840 | [HW#6] 이수빈 | 이수빈 | 2014.04.15 | 23149 |
839 | [HW#6] 이길운 | 이길운 | 2015.04.21 | 19545 |
838 | [HW#6] 이기훈 | 이기훈 | 2017.11.07 | 4279 |
837 | [HW#6] 윤다섭 | 윤다섭 | 2015.04.20 | 20094 |
836 | [HW#6] 유창재 1 | 유창재 | 2016.04.12 | 16075 |
835 | [HW#6] 유종명 | 명이에요 | 2014.04.14 | 20157 |
834 | [HW#6] 엄지섭 | 엄지섭 | 2015.04.21 | 17643 |
833 | [HW#6] 양운 | 양운 | 2016.04.11 | 15772 |
832 | [HW#6] 양석주 | 양석주 | 2013.10.21 | 22501 |
831 | [HW#6] 송수범 | 송수범 | 2016.04.10 | 15935 |
830 | [HW#6] 설동혁 | 설동혁 | 2015.04.21 | 19652 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5