댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20777 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
1109 |
G77 : 포트란77 컴파일러
![]() |
도은철 | 2006.09.05 | 56768 |
1108 |
숙제3(역행렬과 Gaussian Elimination)
1 ![]() |
송양희 | 2006.10.10 | 28618 |
1107 |
포트란 ppt자료
![]() |
도은철 | 2006.09.05 | 27241 |
1106 |
Final_term_최민기
![]() |
최민기 | 2009.12.21 | 26205 |
1105 |
HW#9_문현우
![]() |
문현우 | 2009.11.24 | 25396 |
1104 |
Final_term_이준호
![]() |
이준호 | 2009.12.21 | 25286 |
1103 |
Final_term_김지현
![]() |
김지현 | 2009.12.21 | 25089 |
1102 |
HW#9_오승재
![]() |
오승재 | 2009.11.24 | 24888 |
1101 |
Final_term_오승재
![]() |
오승재 | 2009.12.21 | 24667 |
1100 |
Final_term_최지원
![]() |
최지원 | 2009.12.21 | 24334 |
1099 |
HW#8_최지원
![]() |
최지원 | 2009.11.17 | 24262 |
1098 |
HW#9_김지현
![]() |
김지현 | 2009.11.24 | 24203 |
1097 |
HW4_이지산
![]() |
이지산 | 2008.10.08 | 24185 |
1096 |
HW#9_최지원
![]() |
최지원 | 2009.11.24 | 23810 |
1095 |
[HW#6] 서현선
![]() |
서현선 | 2014.04.15 | 23639 |
1094 |
HW#8_오승재
![]() |
오승재 | 2009.11.16 | 23630 |
1093 |
HW#3
![]() |
김경옥 | 2006.10.10 | 23607 |
1092 |
hw#07_김지훈(수정)
![]() |
김지훈 | 2007.11.22 | 23595 |
1091 |
학기말 Report
![]() |
Byeong-Joo Lee | 2009.12.08 | 23589 |
1090 |
[HW#8] 서현선
![]() |
서현선 | 2014.05.20 | 23456 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5