댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20816 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
849 | HW#6 | 임범환 | 2017.04.25 | 13930 |
848 | HW#6 - Doan Minh Quan | DOAN,MinhQuan | 2022.11.08 | 79 |
847 | HW#6 20061272 이승석 | 이승석 | 2008.11.09 | 19864 |
846 | HW#6 노경미 | 노경미 | 2021.11.08 | 218 |
845 | HW#6 및 mid-term 과제 | Byeong-Joo Lee | 2009.10.07 | 21369 |
844 | HW#6 및 Mid-Term 과제 | Byeong-Joo Lee | 2012.10.01 | 19563 |
843 | HW#6 이사민 | 이사민 | 2022.11.07 | 104 |
842 | HW#6 이은애 | 이은애 | 2021.11.08 | 210 |
841 | HW#6 이지수 | 이지수 | 2021.11.08 | 194 |
840 | HW#6 이창호 | 이창호 | 2017.11.08 | 5043 |
839 | HW#6-박효욱 | 박효욱 | 2009.10.12 | 20975 |
838 | HW#6_김경민 | 김경민 | 2012.10.15 | 18796 |
837 | HW#6_김기수 | 김기수 | 2007.11.08 | 21412 |
836 | HW#6_김지현 | 김지현 | 2009.10.13 | 21165 |
835 | hw#6_김지훈 | 김지훈 | 2007.11.07 | 21415 |
834 | HW#6_김현수 | 김현수 | 2007.11.08 | 20538 |
833 | HW#6_문현우(수정) 1 | 문현우 | 2009.10.11 | 22644 |
832 | HW#6_오승재 | 오승재 | 2009.10.12 | 22072 |
831 | HW#6_이경원 | 이경원 | 2007.11.08 | 19990 |
830 | hw#6_이미소 1 | 이미소 | 2012.10.16 | 19505 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5