댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20917 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
첨부파일 '1' |
---|
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
569 | Term Report | Byeong-Joo Lee | 2012.11.19 | 17949 |
568 | Si_Ge Phasediagram(Homework #4) | 한인모 | 2006.10.17 | 22013 |
567 | Seokjee SHIN Term Report | SHINSeokjee | 2023.12.14 | 490 |
» | precision 문제 | 김현수 | 2007.09.17 | 20917 |
565 | Multicomponent Diffusion | Byeong-Joo Lee | 2014.05.28 | 22100 |
564 | Multicomponent Diffusion | Byeong-Joo Lee | 2022.11.21 | 100 |
563 | Mid_term 이창호 | 이창호 | 2017.10.30 | 4455 |
562 | Mid_term report 20041008 송양희 | 송양희 | 2006.11.07 | 21076 |
561 | Midterm_이미소 | 이미소 | 2012.10.30 | 18077 |
560 | midterm_오신영 | 오신영 | 2012.11.13 | 18888 |
559 | Midterm_박영훈 | 박영훈 | 2021.10.26 | 138 |
558 | midterm_김지훈 | 김지훈 | 2007.11.08 | 22689 |
557 | Midterm_김경민 | 김경민 | 2012.10.30 | 17851 |
556 | midtermpaper | 김동언 | 2006.11.07 | 20699 |
555 | midterm(20021127) | 서병찬 | 2008.11.06 | 21247 |
554 | midterm 이지수 | 이지수 | 2021.10.25 | 166 |
553 | Midterm 이종관 | 이종관 | 2021.10.25 | 122 |
552 | Midterm 이마태 | 이마태 | 2022.10.19 | 799 |
551 | Midterm 왕재민 | 왕재민 | 2021.10.26 | 129 |
550 | Midterm 노경미 | 노경미 | 2021.10.26 | 162 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5