댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 21009 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
109 |
hw#05_김지훈
![]() |
김지훈 | 2007.10.11 | 22831 |
108 |
HW#5_이태경
![]() |
이태경 | 2007.10.10 | 22932 |
107 |
hw#5 정답
![]() |
Byeong-Joo Lee | 2007.10.05 | 22128 |
106 |
hw#4_김지훈(문제점 해결/업데이트)
![]() |
김지훈 | 2007.10.04 | 20583 |
105 |
HW#4_이태경
![]() |
이태경 | 2007.10.03 | 21675 |
104 |
HW#4_김기수
![]() |
김기수 | 2007.10.03 | 22360 |
103 |
HW#4_김현수
![]() |
김현수 | 2007.10.03 | 20493 |
102 |
HW#4_이경원
![]() |
이경원 | 2007.09.30 | 22708 |
101 |
HW#3_김지훈
![]() |
김지훈 | 2007.09.27 | 19860 |
100 |
HW03_이태경
![]() |
이태경 | 2007.09.27 | 20178 |
99 |
HW#3_이경원
![]() |
이경원 | 2007.09.27 | 19604 |
98 |
HW#3_김현수
![]() |
김현수 | 2007.09.27 | 20304 |
97 |
HW#3_김기수
![]() |
김기수 | 2007.09.26 | 21075 |
96 | 궁금증?? 1 | 이태경 | 2007.09.24 | 20325 |
95 |
HW#2_이태경
![]() |
이태경 | 2007.09.20 | 19430 |
94 | HW#2_이경원 | 이경원 | 2007.09.20 | 20899 |
93 | HW#2_김지훈 | 김지훈 | 2007.09.19 | 20261 |
92 |
HW#2_김현수
![]() |
김현수 | 2007.09.19 | 22079 |
91 | HW#2_김기수 | 김기수 | 2007.09.19 | 20604 |
» |
수치해석 Assignment #1 (9/11 숙제)
![]() |
이경원 | 2007.09.18 | 21009 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5