댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20772 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
309 | [HW#1] | 임범환 | 2017.02.28 | 15367 |
308 | [HW#1] 이호형 | 이호형 | 2017.02.28 | 14987 |
307 | [HW#1]김민정 | 김민정 | 2017.02.28 | 14953 |
306 | HW#1] 신민철 | mcgod1230 | 2017.02.28 | 15782 |
305 | hw1 김진수 | jinsookim | 2017.02.28 | 15344 |
304 | [HW#2]김재현 | morinoakim | 2017.03.12 | 14501 |
303 | [HW#2]한철희 | 한철희 | 2017.03.13 | 13193 |
302 | [HW#2] 조장웅 1 | 조장웅 | 2017.03.13 | 17149 |
301 | [HW#2] | 임범환 | 2017.03.14 | 15089 |
300 | HW2 | S.J | 2017.03.14 | 14552 |
299 | HW2 | 이호형 | 2017.03.14 | 14061 |
298 | [HW#2]김민정 | 김민정 | 2017.03.14 | 15374 |
297 | [HW 2] 신민철 | mcgod1230 | 2017.03.14 | 14904 |
296 | HW2 김진수 | jinsookim | 2017.03.14 | 14956 |
295 | HW3 김진수 | jinsookim | 2017.03.20 | 13547 |
294 | [HW#3]한철희 | 한철희 | 2017.03.20 | 16089 |
293 | [HW#3] 조장웅 | 조장웅 | 2017.03.20 | 15451 |
292 | [HW#3]김재현 | morinoakim | 2017.03.20 | 14657 |
291 | [HW3] 조혜성 | S.J | 2017.03.21 | 14827 |
290 | [HW#3] | 임범환 | 2017.03.21 | 14679 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5