댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20676 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
첨부파일 '1' |
---|
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
96 | 궁금증?? 1 | 이태경 | 2007.09.24 | 20048 |
95 |
HW#2_이태경
![]() |
이태경 | 2007.09.20 | 19147 |
94 | HW#2_이경원 | 이경원 | 2007.09.20 | 20641 |
93 | HW#2_김지훈 | 김지훈 | 2007.09.19 | 19884 |
92 |
HW#2_김현수
![]() |
김현수 | 2007.09.19 | 21826 |
91 | HW#2_김기수 | 김기수 | 2007.09.19 | 20348 |
» |
수치해석 Assignment #1 (9/11 숙제)
![]() |
이경원 | 2007.09.18 | 20676 |
89 |
HW#2(For Single Precision)
![]() |
이태경 | 2007.09.18 | 19880 |
88 | 1장숙제 | 김기수 | 2007.09.17 | 21298 |
87 | 1장 과제 | 김지훈 | 2007.09.17 | 20732 |
86 |
precision 문제
![]() |
김현수 | 2007.09.17 | 20855 |
85 |
HW#2
1 ![]() |
이태경 | 2007.09.16 | 20053 |
84 | 첫번째 개인 과제물 예습 문제 | 김성환 | 2007.09.09 | 21796 |
83 | [re] 첫번째 개인 과제물 예습 문제 1 | 김은하 | 2007.09.12 | 21958 |
82 |
Introduction
![]() |
Byeong-Joo Lee | 2007.09.06 | 20505 |
81 |
Final Term2 서경덕
![]() |
서경덕 | 2006.12.17 | 20727 |
80 | 쫑파티 날짜 25 | 송양희 | 2006.12.14 | 23069 |
79 |
final2
![]() |
김은하 | 2006.12.14 | 18692 |
78 |
finalterm2
![]() |
고원석 | 2006.12.14 | 20128 |
77 | final project 1 | 서경덕 | 2006.12.14 | 19417 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5