댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20779 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
109 |
[Multi-component Diffusion]
![]() |
Byeong-Joo Lee | 2021.11.18 | 192 |
108 |
[Term-Report] Simulation of Darken's Uphill Diffusion
![]() |
Byeong-Joo Lee | 2021.11.18 | 205 |
107 |
HW8 이종관
![]() |
이종관 | 2021.11.22 | 179 |
106 |
HW8 이지수
![]() |
이지수 | 2021.11.22 | 142 |
105 |
HW8 왕재민
![]() |
왕재민 | 2021.11.23 | 167 |
104 |
HW #8 노경미
![]() |
노경미 | 2021.11.23 | 142 |
103 |
HW8 박영훈
![]() |
박영훈 | 2021.11.23 | 197 |
102 |
지원재 HW8입니다
![]() |
지원재 | 2021.11.23 | 213 |
101 |
HW#8 이은애
![]() |
이은애 | 2021.11.23 | 160 |
100 |
Final 왕재민
![]() |
왕재민 | 2021.12.15 | 110 |
99 |
final 이지수
![]() |
이지수 | 2021.12.16 | 122 |
98 |
소재수치해석 박영훈 Final
![]() |
박영훈 | 2021.12.16 | 274 |
97 |
Final 이종관
![]() |
이종관 | 2021.12.16 | 353 |
96 |
Final 이은애
![]() |
이은애 | 2021.12.16 | 281 |
95 |
Final 노경미 제출합니다.
![]() |
노경미 | 2021.12.16 | 273 |
94 |
지원재 Final 입니다
![]() |
지원재 | 2021.12.16 | 327 |
93 |
HW1 김도윤
![]() |
김도윤 | 2022.09.07 | 62 |
92 |
HW#1 Doan Minh Quan
![]() |
DOAN,MinhQuan | 2022.09.07 | 71 |
91 |
HW1 이마태
![]() |
이마태 | 2022.09.07 | 75 |
90 |
HW#1 이사민
![]() |
이사민 | 2022.09.07 | 59 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5