댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20778 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
109 |
hw3
![]() |
이은구 | 2008.09.29 | 22010 |
108 | [re] 첫번째 개인 과제물 예습 문제 1 | 김은하 | 2007.09.12 | 22015 |
107 |
HW#3_민성용
![]() |
민성용 | 2008.09.27 | 22016 |
106 | #7 상미분방정식 2004108 송양희 | 송양희 | 2006.11.18 | 22028 |
105 |
HW#4_최민기
![]() |
최민기 | 2009.09.21 | 22028 |
104 |
HW#6_오승재
![]() |
오승재 | 2009.10.12 | 22046 |
103 | 한인모 hw8 | 한인모 | 2006.11.28 | 22059 |
102 |
[HW#6 및 Mid-Term]
![]() |
Byeong-Joo Lee | 2013.10.09 | 22064 |
101 |
HW5_이정훈
![]() |
이정훈 | 2008.10.21 | 22085 |
100 |
자유주제_이태경(완전판)
![]() |
이태경 | 2007.12.07 | 22087 |
99 |
Multicomponent Diffusion
![]() |
Byeong-Joo Lee | 2014.05.28 | 22094 |
98 |
HW#5_이경원
![]() |
이경원 | 2007.10.11 | 22108 |
97 |
[HW#9] 임석재
![]() |
임석재 | 2013.12.09 | 22125 |
96 |
[HW 6] 김용민
![]() |
angbeat | 2014.04.15 | 22125 |
95 |
[HW#1] 유종명
![]() |
명이에요 | 2014.03.10 | 22160 |
94 |
숙제#3
![]() |
고원석 | 2006.10.10 | 22169 |
93 |
HW#4_김기수
![]() |
김기수 | 2007.10.03 | 22175 |
92 |
[HW#1] 김용민
![]() |
angbeat | 2014.03.11 | 22181 |
91 |
HW2_황혜성
![]() |
황혜성 | 2008.09.18 | 22185 |
90 |
[HW#6] 장민지
![]() |
장민지 | 2014.04.12 | 22192 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5