댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20917 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
549 | [Mid-term] 서현선 | 서현선 | 2014.04.29 | 17843 |
548 | [midterm] 김용민 | angbeat | 2014.04.29 | 21181 |
547 | [Midterm]_유종명 | 명이에요 | 2014.04.29 | 17978 |
546 | [HW #7] 홍승표 | kriswow | 2014.05.12 | 18674 |
545 | [HW7]_유종명 | 명이에요 | 2014.05.13 | 22757 |
544 | [HW#7] 하헌진 | 하헌진 | 2014.05.13 | 21783 |
543 | [HW#7] 이수빈 | 이수빈 | 2014.05.13 | 23248 |
542 | [HW#7] 서현선 | 서현선 | 2014.05.13 | 22625 |
541 | [HW 7] 김용민 | angbeat | 2014.05.13 | 17699 |
540 | [HW#7] 장민지 | 장민지 | 2014.05.13 | 21513 |
539 | [HW#8]홍승표 | kriswow | 2014.05.18 | 18866 |
538 | [HW#8] 이수빈 | 이수빈 | 2014.05.19 | 18485 |
537 | [hw8]_유종명 | 명이에요 | 2014.05.20 | 18581 |
536 | [HW#8] 하헌진 | 하헌진 | 2014.05.20 | 18197 |
535 | [HW8] 김용민 | angbeat | 2014.05.20 | 22892 |
534 | [HW#8] 서현선 | 서현선 | 2014.05.20 | 23463 |
533 | [HW#8] 장민지 | 장민지 | 2014.05.20 | 20341 |
532 | [HW#9] 장민지 | 장민지 | 2014.05.26 | 18372 |
531 | [HW#9]홍승표 | kriswow | 2014.05.27 | 18144 |
530 | [HW#9] 이수빈 1 | 이수빈 | 2014.05.27 | 18066 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5