댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20910 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
109 | [Multi-component Diffusion] | Byeong-Joo Lee | 2021.11.18 | 183 |
108 | [Term-Report] Simulation of Darken's Uphill Diffusion | Byeong-Joo Lee | 2021.11.18 | 196 |
107 | HW8 이종관 | 이종관 | 2021.11.22 | 169 |
106 | HW8 이지수 | 이지수 | 2021.11.22 | 137 |
105 | HW8 왕재민 | 왕재민 | 2021.11.23 | 161 |
104 | HW #8 노경미 | 노경미 | 2021.11.23 | 133 |
103 | HW8 박영훈 | 박영훈 | 2021.11.23 | 178 |
102 | 지원재 HW8입니다 | 지원재 | 2021.11.23 | 208 |
101 | HW#8 이은애 | 이은애 | 2021.11.23 | 152 |
100 | Final 왕재민 | 왕재민 | 2021.12.15 | 107 |
99 | final 이지수 | 이지수 | 2021.12.16 | 117 |
98 | 소재수치해석 박영훈 Final | 박영훈 | 2021.12.16 | 266 |
97 | Final 이종관 | 이종관 | 2021.12.16 | 344 |
96 | Final 이은애 | 이은애 | 2021.12.16 | 277 |
95 | Final 노경미 제출합니다. | 노경미 | 2021.12.16 | 264 |
94 | 지원재 Final 입니다 | 지원재 | 2021.12.16 | 323 |
93 | HW1 김도윤 | 김도윤 | 2022.09.07 | 57 |
92 | HW#1 Doan Minh Quan | DOAN,MinhQuan | 2022.09.07 | 67 |
91 | HW1 이마태 | 이마태 | 2022.09.07 | 68 |
90 | HW#1 이사민 | 이사민 | 2022.09.07 | 54 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5