댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20936 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
첨부파일 '1' |
---|
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
1029 | Final Term2 서경덕 | 서경덕 | 2006.12.17 | 20820 |
1028 | Introduction | Byeong-Joo Lee | 2007.09.06 | 20572 |
1027 | 첫번째 개인 과제물 예습 문제 | 김성환 | 2007.09.09 | 21921 |
1026 | [re] 첫번째 개인 과제물 예습 문제 1 | 김은하 | 2007.09.12 | 22042 |
1025 | HW#2 1 | 이태경 | 2007.09.16 | 20133 |
» | precision 문제 | 김현수 | 2007.09.17 | 20936 |
1023 | 1장 과제 | 김지훈 | 2007.09.17 | 20818 |
1022 | 1장숙제 | 김기수 | 2007.09.17 | 21395 |
1021 | HW#2(For Single Precision) | 이태경 | 2007.09.18 | 20010 |
1020 | 수치해석 Assignment #1 (9/11 숙제) | 이경원 | 2007.09.18 | 20816 |
1019 | HW#2_김기수 | 김기수 | 2007.09.19 | 20428 |
1018 | HW#2_김현수 | 김현수 | 2007.09.19 | 21938 |
1017 | HW#2_김지훈 | 김지훈 | 2007.09.19 | 20026 |
1016 | HW#2_이경원 | 이경원 | 2007.09.20 | 20769 |
1015 | HW#2_이태경 | 이태경 | 2007.09.20 | 19280 |
1014 | 궁금증?? 1 | 이태경 | 2007.09.24 | 20165 |
1013 | HW#3_김기수 | 김기수 | 2007.09.26 | 20974 |
1012 | HW#3_김현수 | 김현수 | 2007.09.27 | 20123 |
1011 | HW#3_이경원 | 이경원 | 2007.09.27 | 19451 |
1010 | HW03_이태경 | 이태경 | 2007.09.27 | 19883 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5