댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20769 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
289 | HW#8_김지현 | 김지현 | 2009.11.15 | 20569 |
288 | [HW#6] 이학현 | 이학현 | 2015.04.20 | 20574 |
287 | Final-Term Report_이태경 | 이태경 | 2007.12.17 | 20577 |
286 | final_김경수 | 김경수 | 2008.12.15 | 20577 |
285 | HW#9_민성용 | 민성용 | 2008.11.27 | 20578 |
284 | HW#8_문현우 | 문현우 | 2009.11.16 | 20594 |
283 | [공지] 과제 등록시 유의사항 外 | kimkikid | 2013.09.09 | 20596 |
282 | 숙제6 | 이지산 | 2008.11.06 | 20598 |
281 | Final_term_김기수 | 김기수 | 2007.12.18 | 20603 |
280 | Mid-term paper | 고원석 | 2006.11.07 | 20605 |
279 | HW#3_정혁재 | 정혁재 | 2009.09.11 | 20607 |
278 | HW#5_오승재 | 오승재 | 2009.09.28 | 20625 |
277 | HW#3_최지원 | 최지원 | 2009.09.14 | 20633 |
276 | HW4_김혜민 | 김혜민 | 2008.10.06 | 20635 |
275 | final 자유종목 20031206 윤대원 | 윤대원 | 2006.12.12 | 20653 |
274 | [HW#4]윤재익 | 윤재익1 | 2013.09.29 | 20676 |
273 | [hw#8] 장재덕 | 장재덕 | 2015.05.19 | 20685 |
272 | midtermpaper | 김동언 | 2006.11.07 | 20691 |
271 | HW5_김혜민 | 김혜민 | 2008.10.21 | 20693 |
270 | HW#7 | 고원석 | 2006.11.21 | 20698 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5