댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20774 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
849 | [Midterm]조혜성 | S.J | 2017.04.20 | 14604 |
848 | [MIDTERM]김민정 | 김민정 | 2017.04.20 | 15344 |
847 | [Midterm] 조장웅 | 조장웅 | 2017.04.20 | 13569 |
846 | [mid-term]임범환 | 임범환 | 2017.04.20 | 14963 |
845 | [Mid-term]김재현 1 | morinoakim | 2017.04.20 | 15060 |
844 | Mid term 김진수 | jinsookim | 2017.04.19 | 12471 |
843 | [HW#5]김민정 | 김민정 | 2017.04.11 | 13713 |
842 | HW5 김진수 [파일 수정] | jinsookim | 2017.04.11 | 14034 |
841 | [HW 5] 신민철 | mcgod1230 | 2017.04.11 | 13673 |
840 | [HW#5] 한철희(revised) | 한철희 | 2017.04.11 | 14390 |
839 | [HW#5]조장웅 | 조장웅 | 2017.04.11 | 14683 |
838 | HW5 이호형 | 이호형 | 2017.04.11 | 13652 |
837 | [HW#5]김재현 | morinoakim | 2017.04.11 | 15041 |
836 | HW#5임범환 | 임범환 | 2017.04.11 | 14235 |
835 | [HW5] 조혜성 | S.J | 2017.04.11 | 14942 |
834 | [HW 4] 신민철 | mcgod1230 | 2017.03.30 | 15136 |
833 | HW4 김진수 | jinsookim | 2017.03.30 | 15802 |
832 | HW#4 | 한철희 | 2017.03.30 | 14998 |
831 | [HW#4] 조장웅 | 조장웅 | 2017.03.30 | 14604 |
830 | HW4 | S.J | 2017.03.30 | 13208 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5