precision 문제

김현수

(*.223.209.52) 조회 수 20912 추천 수 73 댓글 0

단축키

Prev이전 문서

Next다음 문서

가 + - Up Down Comment Print Files

single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.

근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;

찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는

'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..

이게 맞는건지는 잘 모르겠음..;

Atachment
첨부파일 '1'	Precision.ppt,

Up Down Print 수정 삭제

✔댓글 쓰기

●? 에디터 선택하기

✔ 텍스트 모드 ✔ 에디터 모드

List of Articles
번호	제목	글쓴이	날짜	조회 수
189	HW#6 이창호	이창호	2017.11.08	4975
188	[HW#6]김성진	김성진	2017.11.08	4960
187	FINAL	오상호	2017.12.20	4936
186	HW7	오상호	2017.11.20	4928
185	final 김영우	김영우	2017.12.20	4913
184	Midterm	오상호	2017.10.26	4911
183	[HW#7]김성진	김성진	2017.11.20	4844
182	[HW#5] 이기훈	이기훈	2017.10.23	4837
181	[HW#7] 이기훈	이기훈	2017.11.19	4786
180	[Multi-component Diffusion]	Byeong-Joo Lee	2017.11.15	4708
179	[HW#5]김성진	김성진	2017.10.23	4507
178	mid 김영우	김영우	2017.10.30	4489
177	Mid_term 이창호	이창호	2017.10.30	4426
176	[Midterm]김성진	김성진	2017.10.30	4409
175	[HW#8]김성진	김성진	2017.12.04	4360
174	[midterm] 이기훈	이기훈	2017.10.30	4350
173	HW8	오상호	2017.12.04	4267
172	HW#8 이창호	이창호	2017.12.03	4234
171	[HW#6] 이기훈	이기훈	2017.11.07	4217
170	hw6 김영우	김영우	2017.11.08	4081

태그 쓰기

나눔글꼴 설치 안내

이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

✔ 설치 취소

Yesterday	434
Today	321
TOTAL	1520075