댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20917 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
249 |
[Diffusion]
![]() |
Byeong-Joo Lee | 2017.05.04 | 13605 |
248 |
[Term-Report] Simulation of Darken's Uphill Diffusion
![]() |
Byeong-Joo Lee | 2017.05.04 | 13373 |
247 |
[HW 7] 신민철
![]() |
mcgod1230 | 2017.05.15 | 12813 |
246 |
[HW#7] 조장웅
![]() |
조장웅 | 2017.05.15 | 13166 |
245 |
[HW#7]임범환
![]() |
임범환 | 2017.05.15 | 12410 |
244 |
[HW#7] 한철희
![]() |
한철희 | 2017.05.16 | 14478 |
243 |
[HW#7]김재현
![]() |
morinoakim | 2017.05.16 | 13464 |
242 |
[HW#7]조혜성
![]() |
S.J | 2017.05.16 | 12187 |
241 |
호형7
![]() |
이호형 | 2017.05.16 | 12752 |
240 |
[HW#7]김민정
![]() |
김민정 | 2017.05.16 | 14214 |
239 |
김진수 HW7
![]() |
jinsookim | 2017.05.16 | 12253 |
238 |
[HW 8] 신민철
![]() |
mcgod1230 | 2017.05.22 | 10734 |
237 |
[HW#8] 조장웅
![]() |
조장웅 | 2017.05.23 | 11656 |
236 |
HW#8 임범환
![]() |
임범환 | 2017.05.23 | 11113 |
235 |
[HW#8]조혜성
![]() |
S.J | 2017.05.23 | 11599 |
234 |
[HW#8]김재현
![]() |
morinoakim | 2017.05.23 | 11424 |
233 |
[HW#8] 한철희
![]() |
한철희 | 2017.05.23 | 12134 |
232 |
김진수 HW8
![]() |
jinsookim | 2017.05.23 | 10514 |
231 |
[HW#8]김민정
![]() |
김민정 | 2017.05.23 | 11658 |
230 |
[HW8] 호형
![]() |
이호형 | 2017.05.29 | 9964 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5