댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20782 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
첨부파일 '1' |
---|
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
69 |
김은하 Hw #4
![]() |
김은하 | 2006.10.17 | 22631 |
68 |
김진수 HW6
![]() |
jinsookim | 2017.04.25 | 13975 |
67 |
김진수 HW7
![]() |
jinsookim | 2017.05.16 | 12253 |
66 |
김진수 HW8
![]() |
jinsookim | 2017.05.23 | 10514 |
65 |
박영훈 HW7
![]() |
박영훈 | 2021.11.16 | 176 |
64 | 서경덕 20031022 #ans6 | 서경덕 | 2006.11.14 | 20467 |
63 |
소재수치해석 박영훈 Final
![]() |
박영훈 | 2021.12.16 | 277 |
62 |
수치적분
![]() |
김경옥 | 2006.11.14 | 21816 |
61 |
수치적분
![]() |
김동언 | 2006.11.14 | 19647 |
60 |
수치적분-20031206윤대원
![]() |
윤대원 | 2006.11.01 | 20982 |
» |
수치해석 Assignment #1 (9/11 숙제)
![]() |
이경원 | 2007.09.18 | 20782 |
58 |
숙제 #1.
![]() |
도은철 | 2006.09.05 | 22708 |
57 |
숙제 #6 20041008송양희
1 ![]() |
송양희 | 2006.11.13 | 21520 |
56 |
숙제 1 복습
![]() |
이휘원 | 2009.09.07 | 19852 |
55 |
숙제 1번입니다.
![]() |
최민기 | 2009.09.03 | 19277 |
54 |
숙제 4 20061114 이은구
![]() |
이은구 | 2008.10.09 | 21505 |
53 |
숙제 7
![]() |
이은구 | 2008.11.11 | 19968 |
52 |
숙제 9번
![]() |
이은구 | 2008.11.25 | 20021 |
51 |
숙제#1 예습문제
![]() |
이휘원 | 2009.09.03 | 21103 |
50 |
숙제#3
![]() |
고원석 | 2006.10.10 | 22172 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5