댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20816 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
69 | [Term-Report] Simulation of Darken's uphill diffusion | Byeong-Joo Lee | 2022.11.21 | 116 |
68 | HW1 이마태 | 이마태 | 2022.09.07 | 114 |
67 | HW1_fixed | DOAN,MinhQuan | 2022.09.12 | 114 |
66 | 이형진 HW3 제출합니다. | 이형진 | 2022.09.27 | 112 |
65 | HW8 이마태 | 이마태 | 2022.11.22 | 112 |
64 | HW#3 이사민 | 이사민 | 2022.09.26 | 111 |
63 | 김도윤_HW4 | 김도윤 | 2022.10.03 | 111 |
62 | HW6 이마태 | 이마태 | 2022.11.07 | 110 |
61 | Final 이사민 | 이사민 | 2022.12.15 | 110 |
60 | Homework 5 20190272 장환중 | 장환중 | 2022.10.13 | 109 |
59 | final 이마태 | 이마태 | 2022.12.15 | 109 |
58 | 이사민 HW4 | 이사민 | 2022.10.03 | 107 |
57 | HW#5 이사민 | 이사민 | 2022.10.13 | 107 |
56 | HW6 이형진 제출합니다 | 이형진 | 2022.11.08 | 107 |
55 | 이형진 HW8 제출합니다 | 이형진 | 2022.11.20 | 107 |
54 | 이형진 Final 제출합니다. | 이형진 | 2022.12.15 | 107 |
53 | HW#1 Doan Minh Quan | DOAN,MinhQuan | 2022.09.07 | 106 |
52 | HW5 이마태 | 이마태 | 2022.10.13 | 106 |
51 | HW#8 이사민 | 이사민 | 2022.11.22 | 105 |
50 | HW#8 | DOAN,MinhQuan | 2022.11.22 | 105 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5