댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 22652 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
309 |
HW#3 1변수 방정식
![]() |
이준호 | 2009.09.14 | 22385 |
308 |
[Mid-Term] 임석재
![]() |
임석재 | 2013.11.05 | 22389 |
307 |
HW1_김경수
![]() |
김경수 | 2008.09.10 | 22401 |
306 |
[HW#6] 이학현
![]() |
이학현 | 2015.04.20 | 22405 |
305 |
[HW#8] 장민지
![]() |
장민지 | 2014.05.20 | 22407 |
304 |
[Mid-Term] 이종원
![]() |
이종원 | 2013.11.05 | 22414 |
303 |
[HW#8] 박시진
![]() |
박시진 | 2015.05.19 | 22414 |
302 | 서경덕 20031022 #ans6 | 서경덕 | 2006.11.14 | 22445 |
301 | HW#2_김기수 | 김기수 | 2007.09.19 | 22462 |
300 |
HW2_이정훈
![]() |
이정훈 | 2008.09.17 | 22465 |
299 |
HW4_김혜민
![]() |
김혜민 | 2008.10.06 | 22478 |
298 |
HW#7
![]() |
고원석 | 2006.11.21 | 22496 |
297 |
숙제6
![]() |
이지산 | 2008.11.06 | 22498 |
296 |
Final-Term Report_이태경
![]() |
이태경 | 2007.12.17 | 22505 |
295 |
hw#4_김지훈(문제점 해결/업데이트)
![]() |
김지훈 | 2007.10.04 | 22508 |
294 |
[HW#9] 도현석
7 ![]() |
도현석 | 2016.05.30 | 22519 |
293 |
Final term
![]() |
고원석 | 2006.12.12 | 22525 |
292 |
[hw#8] 장재덕
![]() |
장재덕 | 2015.05.19 | 22531 |
291 | HW#2_이경원 | 이경원 | 2007.09.20 | 22532 |
290 |
[Final] 이상현
![]() |
이상현 | 2013.12.16 | 22532 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5