precision 문제

김현수

(*.223.209.52) 조회 수 20912 추천 수 73 댓글 0

단축키

Prev이전 문서

Next다음 문서

가 + - Up Down Comment Print Files

single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.

근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;

찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는

'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..

이게 맞는건지는 잘 모르겠음..;

Atachment
첨부파일 '1'	Precision.ppt,

Up Down Print 수정 삭제

✔댓글 쓰기

●? 에디터 선택하기

✔ 텍스트 모드 ✔ 에디터 모드

List of Articles
번호	제목	글쓴이	날짜	조회 수
269	HW#5임범환	임범환	2017.04.11	14235
268	[HW#7]김민정	김민정	2017.05.16	14209
267	[Midterm] 한철희	한철희	2017.04.20	14189
266	[HW 6] 신민철	mcgod1230	2017.04.25	14124
265	HW2	이호형	2017.03.14	14061
264	HW5 김진수 [파일 수정]	jinsookim	2017.04.11	14034
263	Ge-Si phase diagram data	Byeong-Joo Lee	2017.03.23	13979
262	김진수 HW6	jinsookim	2017.04.25	13971
261	[HW#4]김재현	morinoakim	2017.03.30	13901
260	HW#6	임범환	2017.04.25	13892
259	[HW#5]김민정	김민정	2017.04.11	13712
258	HW3 이호형	이호형	2017.03.21	13675
257	[HW 5] 신민철	mcgod1230	2017.04.11	13669
256	HW5 이호형	이호형	2017.04.11	13651
255	[Diffusion]	Byeong-Joo Lee	2017.05.04	13600
254	[Midterm] 조장웅	조장웅	2017.04.20	13567
253	HW3 김진수	jinsookim	2017.03.20	13547
252	[HW#6] 한철희 2	한철희	2017.04.24	13466
251	[HW#7]김재현	morinoakim	2017.05.16	13453
250	[Term-Report] Simulation of Darken's Uphill Diffusion	Byeong-Joo Lee	2017.05.04	13368

태그 쓰기

나눔글꼴 설치 안내

이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

✔ 설치 취소

Yesterday	267
Today	78
TOTAL	1518799