댓글 쓰기 권한이 없습니다. 로그인 하시겠습니까?
2007.09.17 18:34
precision 문제
(*.223.209.52) 조회 수 20915 추천 수 73 댓글 0
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;
찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는
'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..
이게 맞는건지는 잘 모르겠음..;
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
89 |
지원재 HW3 입니다
![]() |
지원재 | 2021.10.05 | 111 |
88 |
Final 왕재민
![]() |
왕재민 | 2021.12.15 | 110 |
87 |
이사민 midterm
![]() |
이사민 | 2022.10.20 | 109 |
86 |
HW6 왕재민
![]() |
왕재민 | 2021.11.04 | 107 |
85 |
HW2 이형진 제출합니다
![]() |
이형진 | 2022.09.20 | 102 |
84 |
[Reference state] Enthalpy of mixing vs. enthalpy of formation ...
![]() |
Byeong-Joo Lee | 2022.10.04 | 102 |
83 |
HW4 이형진 제출합니다
![]() |
이형진 | 2022.10.04 | 101 |
82 |
20190272 장환중 mid-term
![]() |
장환중 | 2022.10.20 | 99 |
81 |
Mid-Term 이형진 제출합니다. (수정완료)
![]() |
이형진 | 2022.10.20 | 99 |
80 |
HW7 장환중
![]() |
장환중 | 2022.11.14 | 99 |
79 |
Multicomponent Diffusion
![]() |
Byeong-Joo Lee | 2022.11.21 | 95 |
78 |
Mid-Term Report
![]() |
Byeong-Joo Lee | 2022.09.28 | 92 |
77 |
[Term-Report] Simulation of Darken's uphill diffusion
![]() |
Byeong-Joo Lee | 2022.11.21 | 90 |
76 |
20190272 장환중 homework 8
![]() |
장환중 | 2022.11.22 | 89 |
75 |
Midterm 이마태
![]() |
이마태 | 2022.10.19 | 88 |
74 |
Final 이사민
![]() |
이사민 | 2022.12.15 | 88 |
73 |
김도윤 HW7
![]() |
김도윤 | 2022.11.15 | 87 |
72 |
Final - Doan Minh Quan
![]() |
DOAN,MinhQuan | 2022.12.15 | 86 |
71 |
HW8 이마태
![]() |
이마태 | 2022.11.22 | 84 |
70 |
김도윤 HW8
![]() |
김도윤 | 2022.11.22 | 83 |
Designed by sketchbooks.co.kr / sketchbook5 board skin
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5
Sketchbook5, 스케치북5