댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.18 01:27
수치해석 Assignment #1 (9/11 숙제)
(*.223.203.16) 조회 수 20707 추천 수 79 댓글 0
single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.
결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 286 |
Final-Term Report_이태경
|
이태경 | 2007.12.17 | 20522 |
| 285 |
HW#9_민성용
|
민성용 | 2008.11.27 | 20529 |
| 284 |
Mid-term paper
|
고원석 | 2006.11.07 | 20531 |
| 283 |
숙제6
|
이지산 | 2008.11.06 | 20535 |
| 282 |
HW#8_문현우
|
문현우 | 2009.11.16 | 20537 |
| 281 | [공지] 과제 등록시 유의사항 外 | kimkikid | 2013.09.09 | 20541 |
| 280 |
Final_term_김기수
|
김기수 | 2007.12.18 | 20560 |
| 279 |
HW#3_정혁재
|
정혁재 | 2009.09.11 | 20563 |
| 278 |
HW#5_오승재
|
오승재 | 2009.09.28 | 20568 |
| 277 |
HW4_김혜민
|
김혜민 | 2008.10.06 | 20573 |
| 276 |
HW#3_최지원
|
최지원 | 2009.09.14 | 20580 |
| 275 |
midtermpaper
|
김동언 | 2006.11.07 | 20608 |
| 274 |
final 자유종목 20031206 윤대원
|
윤대원 | 2006.12.12 | 20613 |
| 273 |
[HW#4]윤재익
|
윤재익1 | 2013.09.29 | 20613 |
| 272 |
Final_term_민성용
|
민성용 | 2008.12.16 | 20630 |
| 271 |
[hw#8] 장재덕
|
장재덕 | 2015.05.19 | 20630 |
| 270 |
HW5_김혜민
|
김혜민 | 2008.10.21 | 20632 |
| 269 |
Final_이정훈
|
이정훈 | 2008.12.15 | 20647 |
| 268 |
HW#7
|
고원석 | 2006.11.21 | 20654 |
| 267 | HW#2_이경원 | 이경원 | 2007.09.20 | 20655 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5