댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20784 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
269 |
[HW 5] 신민철
![]() |
mcgod1230 | 2017.04.11 | 13677 |
268 |
HW5 김진수 [파일 수정]
![]() |
jinsookim | 2017.04.11 | 14038 |
267 |
[HW#5]김민정
![]() |
김민정 | 2017.04.11 | 13727 |
266 |
Mid term 김진수
![]() |
jinsookim | 2017.04.19 | 12478 |
265 |
[Mid-term]김재현
1 ![]() |
morinoakim | 2017.04.20 | 15061 |
264 |
[mid-term]임범환
![]() |
임범환 | 2017.04.20 | 14967 |
263 |
[Midterm] 조장웅
![]() |
조장웅 | 2017.04.20 | 13570 |
262 |
[MIDTERM]김민정
![]() |
김민정 | 2017.04.20 | 15345 |
261 |
[Midterm]조혜성
![]() |
S.J | 2017.04.20 | 14610 |
260 |
[Midterm] 한철희
![]() |
한철희 | 2017.04.20 | 14194 |
259 |
[Mid Term] 신민철
![]() |
mcgod1230 | 2017.04.20 | 15237 |
258 |
[HW#6]김재현
![]() |
morinoakim | 2017.04.22 | 15568 |
257 |
[HW#6] 한철희
2 ![]() |
한철희 | 2017.04.24 | 13474 |
256 |
[HW#6]조혜성
![]() |
S.J | 2017.04.24 | 15476 |
255 |
[HW#6] 조장웅
![]() |
조장웅 | 2017.04.24 | 12699 |
254 |
HW#6
![]() |
임범환 | 2017.04.25 | 13901 |
253 |
[HW#6]김민정
![]() |
김민정 | 2017.04.25 | 14345 |
252 |
HW6 & Midterm 이호형
![]() |
이호형 | 2017.04.25 | 14768 |
251 |
김진수 HW6
![]() |
jinsookim | 2017.04.25 | 13977 |
250 |
[HW 6] 신민철
![]() |
mcgod1230 | 2017.04.25 | 14128 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5