댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20970 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
첨부파일 '1' |
---|
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
1029 | Final Term2 서경덕 | 서경덕 | 2006.12.17 | 20858 |
1028 | Introduction | Byeong-Joo Lee | 2007.09.06 | 20600 |
1027 | [re] 첫번째 개인 과제물 예습 문제 1 | 김은하 | 2007.09.12 | 22095 |
1026 | 첫번째 개인 과제물 예습 문제 | 김성환 | 2007.09.09 | 21979 |
1025 | HW#2 1 | 이태경 | 2007.09.16 | 20165 |
» | precision 문제 | 김현수 | 2007.09.17 | 20970 |
1023 | 1장 과제 | 김지훈 | 2007.09.17 | 20833 |
1022 | 1장숙제 | 김기수 | 2007.09.17 | 21432 |
1021 | HW#2(For Single Precision) | 이태경 | 2007.09.18 | 20033 |
1020 | 수치해석 Assignment #1 (9/11 숙제) | 이경원 | 2007.09.18 | 20854 |
1019 | HW#2_김기수 | 김기수 | 2007.09.19 | 20471 |
1018 | HW#2_김현수 | 김현수 | 2007.09.19 | 21954 |
1017 | HW#2_김지훈 | 김지훈 | 2007.09.19 | 20072 |
1016 | HW#2_이경원 | 이경원 | 2007.09.20 | 20800 |
1015 | HW#2_이태경 | 이태경 | 2007.09.20 | 19332 |
1014 | 궁금증?? 1 | 이태경 | 2007.09.24 | 20219 |
1013 | HW#3_김기수 | 김기수 | 2007.09.26 | 20997 |
1012 | HW#3_김현수 | 김현수 | 2007.09.27 | 20214 |
1011 | HW#3_이경원 | 이경원 | 2007.09.27 | 19511 |
1010 | HW03_이태경 | 이태경 | 2007.09.27 | 19944 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5