댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20913 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
349 | [Term Report] Simulation of Uphill Diffusion | Byeong-Joo Lee | 2016.05.25 | 16125 |
348 | [HW#3]한철희 | 한철희 | 2017.03.20 | 16090 |
347 | [HW#6] 유창재 1 | 유창재 | 2016.04.12 | 16030 |
346 | [HW6] 이원태 | 이원태 | 2015.04.20 | 15999 |
345 | [HW#6] 도현석 | 도현석 | 2016.04.11 | 15984 |
344 | [HW#5] 김상헌 | 김상헌 | 2016.04.01 | 15925 |
343 | [HW#6] 송수범 | 송수범 | 2016.04.10 | 15909 |
342 | [HW#5] 유창재 | 유창재 | 2016.04.05 | 15891 |
341 | [HW#8]김상헌 2 | 김상헌 | 2016.05.13 | 15890 |
340 | [HW#2] 양운 | 양운 | 2016.03.15 | 15888 |
339 | [Final] 윤다섭 | 윤다섭 | 2015.06.20 | 15876 |
338 | [Final 자유주제]엄지섭 | 엄지섭 | 2015.06.23 | 15868 |
337 | [hw#1] 양동준 | 양동준 | 2016.03.07 | 15865 |
336 | [Mid-Term Report] | Byeong-Joo Lee | 2016.04.07 | 15859 |
335 | [hw8] 장경현 1 | 장경현 | 2016.05.13 | 15845 |
334 | [HW#2] 유창재 | 유창재 | 2016.03.13 | 15826 |
333 | HW4 김진수 | jinsookim | 2017.03.30 | 15802 |
332 | [Midterm] 양운 2 | 양운 | 2016.04.26 | 15788 |
331 | HW#1] 신민철 | mcgod1230 | 2017.02.28 | 15782 |
330 | hw08현조렬 2 | 현렬조 | 2016.05.17 | 15766 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5