댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20784 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
269 |
HW#6 이지수
![]() |
이지수 | 2021.11.08 | 171 |
268 |
HW#6 이은애
![]() |
이은애 | 2021.11.08 | 175 |
267 |
HW#6 이사민
![]() |
이사민 | 2022.11.07 | 82 |
266 |
HW#6 및 mid-term 과제
![]() |
Byeong-Joo Lee | 2009.10.07 | 21339 |
265 |
HW#6 및 Mid-Term 과제
![]() |
Byeong-Joo Lee | 2012.10.01 | 19537 |
264 |
HW#6 노경미
![]() |
노경미 | 2021.11.08 | 183 |
263 |
HW#6 20061272 이승석
![]() |
이승석 | 2008.11.09 | 19840 |
262 |
HW#6 - Doan Minh Quan
![]() |
DOAN,MinhQuan | 2022.11.08 | 56 |
261 |
HW#6
![]() |
박재용 | 2012.10.16 | 18307 |
260 |
HW#6
![]() |
임범환 | 2017.04.25 | 13901 |
259 |
HW#5임범환
![]() |
임범환 | 2017.04.11 | 14239 |
258 |
HW#5_최민기
![]() |
최민기 | 2009.09.28 | 20928 |
257 |
HW#5_정혁재
![]() |
정혁재 | 2009.09.28 | 21432 |
256 |
HW#5_이태경
![]() |
이태경 | 2007.10.10 | 22769 |
255 |
HW#5_이준호
![]() |
이준호 | 2009.09.28 | 19813 |
254 |
hw#5_이미소
![]() |
이미소 | 2012.10.09 | 18622 |
253 |
HW#5_이경원
![]() |
이경원 | 2007.10.11 | 22110 |
252 |
HW#5_오승재
![]() |
오승재 | 2009.09.28 | 20629 |
251 |
HW#5_문현우
![]() |
문현우 | 2009.09.29 | 19318 |
250 |
HW#5_김현수
![]() |
김현수 | 2007.10.11 | 21709 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5