댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20779 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
849 |
HW#3_정혁재
![]() |
정혁재 | 2009.09.11 | 20608 |
848 |
HW#3_최지원
![]() |
최지원 | 2009.09.14 | 20638 |
847 |
HW#3 1변수 방정식
![]() |
김영광 | 2009.09.14 | 21106 |
846 |
HW#3 1변수 방정식
![]() |
이준호 | 2009.09.14 | 20340 |
845 |
HW#3_문현우
![]() |
문현우 | 2009.09.14 | 19253 |
844 |
HW#3_김지현
![]() |
김지현 | 2009.09.14 | 20069 |
843 |
HW#3_오승재
![]() |
오승재 | 2009.09.14 | 20983 |
842 |
HW#3_최민기
![]() |
최민기 | 2009.09.14 | 19229 |
841 |
3번째 숙제-이휘원.
![]() |
이휘원 | 2009.09.15 | 21432 |
840 |
HW#3-박효욱
![]() |
박효욱 | 2009.09.15 | 22918 |
839 |
HW#4_최지원
![]() |
최지원 | 2009.09.18 | 21175 |
838 |
HW#4_박효욱
![]() |
박효욱 | 2009.09.20 | 21077 |
837 |
HW#4_김지현
![]() |
김지현 | 2009.09.21 | 19856 |
836 |
HW#4 김영광
![]() |
김영광 | 2009.09.21 | 22697 |
835 |
HW#4_문현우
![]() |
문현우 | 2009.09.21 | 19726 |
834 |
HW#4_이준호
![]() |
이준호 | 2009.09.21 | 20931 |
833 |
HW#4_최민기
![]() |
최민기 | 2009.09.21 | 22028 |
832 |
HW#4_오승재
![]() |
오승재 | 2009.09.21 | 22666 |
831 |
HW#4_정혁재
![]() |
정혁재 | 2009.09.21 | 21461 |
830 |
HW#5 문제와 정답
![]() |
Byeong-Joo Lee | 2009.09.23 | 20419 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5