precision 문제

김현수

(*.223.209.52) 조회 수 20912 추천 수 73 댓글 0

단축키

Prev이전 문서

Next다음 문서

가 + - Up Down Comment Print Files

single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.

근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;

찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는

'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..

이게 맞는건지는 잘 모르겠음..;

Atachment
첨부파일 '1'	Precision.ppt,

Up Down Print 수정 삭제

✔댓글 쓰기

●? 에디터 선택하기

✔ 텍스트 모드 ✔ 에디터 모드

List of Articles
번호	제목	글쓴이	날짜	조회 수
189	[midterm] 이기훈	이기훈	2017.10.30	4350
188	[HW#6] 이기훈	이기훈	2017.11.07	4217
187	hw6 김영우	김영우	2017.11.08	4081
186	[HW#6]김성진	김성진	2017.11.08	4959
185	HW6	오상호	2017.11.08	5311
184	HW#6 이창호	이창호	2017.11.08	4975
183	[Multi-component Diffusion]	Byeong-Joo Lee	2017.11.15	4708
182	[Term-Report] Simulation of Darken's Uphill Diffusion	Byeong-Joo Lee	2017.11.15	5162
181	[HW#7] 이기훈	이기훈	2017.11.19	4785
180	HW7	오상호	2017.11.20	4928
179	[HW#7]김성진	김성진	2017.11.20	4844
178	HW#7 이창호	이창호	2017.11.20	5058
177	hw7	김영우	2017.11.20	4997
176	[HW#8] 이기훈	이기훈	2017.12.02	4079
175	HW#8 이창호	이창호	2017.12.03	4234
174	HW8	오상호	2017.12.04	4267
173	hw8 김영우	김영우	2017.12.04	4005
172	[HW#8]김성진	김성진	2017.12.04	4360
171	FINAL	오상호	2017.12.20	4936
170	[Final]김성진	김성진	2017.12.20	5185

태그 쓰기

나눔글꼴 설치 안내

이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

✔ 설치 취소

Yesterday	386
Today	247
TOTAL	1517585