precision 문제

by 김현수 posted Sep 17, 2007
?

단축키

Prev이전 문서

Next다음 문서

ESC닫기

+ - Up Down Comment Print
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.

근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;

찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는

'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..

이게 맞는건지는 잘 모르겠음..;

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소

Designed by sketchbooks.co.kr / sketchbook5 board skin

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5