댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20775 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
89 | Ge-Si phase diagram data | Byeong-Joo Lee | 2022.09.28 | 78 |
88 | Ge-Si phase diagram | Byeong-Joo Lee | 2017.09.20 | 7204 |
87 | G77 : 포트란77 컴파일러 | 도은철 | 2006.09.05 | 56763 |
86 | Final_황혜성(Darken Uphill Diffusion) | 황혜성 | 2008.12.16 | 21909 |
85 | Final_이정훈 | 이정훈 | 2008.12.15 | 20708 |
84 | Final_유종명 자유주제 데이터 추가 | 명이에요 | 2014.06.20 | 18162 |
83 | Final_유종명 | 명이에요 | 2014.06.19 | 18048 |
82 | final_김혜민 | 김혜민 | 2008.12.16 | 19586 |
81 | final_김경수 | 김경수 | 2008.12.15 | 20587 |
80 | Final_김경민 | 김경민 | 2012.12.18 | 18794 |
79 | Final_term_최지원 | 최지원 | 2009.12.21 | 24334 |
78 | Final_term_최민기 | 최민기 | 2009.12.21 | 26203 |
77 | Final_term_이준호 | 이준호 | 2009.12.21 | 25286 |
76 | Final_term_오승재 | 오승재 | 2009.12.21 | 24667 |
75 | Final_term_박효욱 | 박효욱 | 2009.12.21 | 21860 |
74 | Final_term_민성용 | 민성용 | 2008.12.16 | 20721 |
73 | Final_term_문현우 | 문현우 | 2009.12.21 | 21545 |
72 | Final_term_김지현 | 김지현 | 2009.12.21 | 25089 |
71 | Final_term_김기수 | 김기수 | 2007.12.18 | 20607 |
70 | Final_Term2_김현수 | 김현수 | 2007.12.20 | 21104 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5