댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20799 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
69 |
HW#3 이사민
![]() |
이사민 | 2022.09.26 | 100 |
68 |
HW8 이마태
![]() |
이마태 | 2022.11.22 | 100 |
67 |
Final 이사민
![]() |
이사민 | 2022.12.15 | 100 |
66 |
Final - Doan Minh Quan
![]() |
DOAN,MinhQuan | 2022.12.15 | 100 |
65 |
HW1_fixed
![]() |
DOAN,MinhQuan | 2022.09.12 | 98 |
64 |
김도윤_HW4
![]() |
김도윤 | 2022.10.03 | 98 |
63 |
final 이마태
![]() |
이마태 | 2022.12.15 | 98 |
62 |
이사민 HW4
![]() |
이사민 | 2022.10.03 | 97 |
61 |
이형진 Final 제출합니다.
![]() |
이형진 | 2022.12.15 | 97 |
60 |
이형진 HW3 제출합니다.
![]() |
이형진 | 2022.09.27 | 96 |
59 |
Homework 5 20190272 장환중
![]() |
장환중 | 2022.10.13 | 96 |
58 |
HW#8
![]() |
DOAN,MinhQuan | 2022.11.22 | 94 |
57 |
HW1 이마태
![]() |
이마태 | 2022.09.07 | 93 |
56 |
HW6 이마태
![]() |
이마태 | 2022.11.07 | 93 |
55 |
HW6 이형진 제출합니다
![]() |
이형진 | 2022.11.08 | 93 |
54 |
HW#1 Doan Minh Quan
![]() |
DOAN,MinhQuan | 2022.09.07 | 92 |
53 |
HW5 이마태
![]() |
이마태 | 2022.10.13 | 92 |
52 |
HW#6 이사민
![]() |
이사민 | 2022.11.07 | 92 |
51 |
HW1 김도윤
![]() |
김도윤 | 2022.09.07 | 91 |
50 |
HW#5 이사민
![]() |
이사민 | 2022.10.13 | 91 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5