댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20816 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
109 | [Midterm] 양운 2 | 양운 | 2016.04.26 | 15827 |
108 | [Midterm] 유창재 2 | 유창재 | 2016.04.26 | 16798 |
107 | [midterm] 이기훈 | 이기훈 | 2017.10.30 | 4403 |
106 | [Midterm] 이길운 | 이길운 | 2015.04.28 | 18875 |
105 | [MIDTERM] 이원태 | 이원태 | 2015.04.27 | 17428 |
104 | [midterm] 장경현 | 장경현 | 2016.04.26 | 15526 |
103 | [midterm] 장재덕 | 장재덕 | 2015.04.28 | 17708 |
102 | [Midterm] 조규봉 | 조규봉 | 2015.04.28 | 18483 |
101 | [Midterm] 조장웅 | 조장웅 | 2017.04.20 | 13606 |
100 | [Midterm] 한철희 | 한철희 | 2017.04.20 | 14225 |
99 | [Midterm]_유종명 | 명이에요 | 2014.04.29 | 17995 |
98 | [MIDTERM]김민정 | 김민정 | 2017.04.20 | 15375 |
97 | [Midterm]김성진 | 김성진 | 2017.10.30 | 4469 |
96 | [midterm]엄지섭 | 엄지섭 | 2015.04.28 | 17062 |
95 | [Midterm]조혜성 | S.J | 2017.04.20 | 14653 |
94 | [Mid]도경연 6 | 도경연 | 2016.04.26 | 18898 |
93 | [Multi-component Diffusion] | Byeong-Joo Lee | 2017.11.15 | 4779 |
92 | [Multi-component Diffusion] | Byeong-Joo Lee | 2021.11.18 | 237 |
91 | [Multicomponent Diffusion] | Byeong-Joo Lee | 2015.05.12 | 20324 |
90 | [Reference state] Enthalpy of mixing vs. enthalpy of formation ... | Byeong-Joo Lee | 2022.10.04 | 131 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5