Home ›Lecture ›Numerical Methods
✔ 뷰어로 보기
2007.09.17 18:34

precision 문제

김현수
(*.223.209.52) 조회 수 20863 추천 수 73 댓글 0
?

단축키

Prev이전 문서

Next다음 문서

가 + - Up Down Comment Print Files
single precision 에서의 정밀도 및 가수(mantissa) 확인하는 프로그램입니다.

근데 원래 배우기로는 가수가 24 bit가 나와야 하는데 제가 짠거로는 23 bit 가 나오네요;;

찾아보니까 현재 쓰이는 "IEEE 754" 라는 규정에서는

'32 bit' single precision 일 때, 부호 1 지수 8 가수 23 으로 표현한다고 하던데..

이게 맞는건지는 잘 모르겠음..;
Atachment
첨부파일 '1'
목록
Up Down Print 수정 삭제
●? 에디터 선택하기
?
List of Articles
번호 제목 글쓴이 날짜 조회 수
566 [Final] 남한재 file 남한재 2013.12.17 20955
565 [Final] 김재유 file 재유찡 2013.12.17 20266
564 [Final] 김용민 file angbeat 2014.06.18 17669
563 [Final] 김상헌 1 file 김상헌 2016.06.13 17739
562 [Final] 김민정 file 김민정 2017.06.01 10742
561 [Final] 김동훈 file 김동훈 2015.06.19 16104
560 [Final 자유주제]엄지섭 file 엄지섭 2015.06.23 15807
559 [Final term] 이학현 file 이학현 2015.06.20 16414
558 [Diffusion] file Byeong-Joo Lee 2016.04.19 14511
557 [Diffusion] file Byeong-Joo Lee 2017.05.04 13526
556 [Announcement of HW#8] Ordinary Differential Equation Byeong-Joo Lee 2013.11.14 22686
555 [Announcement of final report] file Byeong-Joo Lee 2013.12.03 18552
554 [2차 Final_term] Regression set file 송양희 2006.12.13 21626
553 [1차 final_term] Darken's Uphill Diffusion 송양희 2006.12.12 21126
552 Term-Report 2 file Byeong-Joo Lee 2007.12.04 21732
551 Term-Report file Byeong-Joo Lee 2008.11.25 20337
550 Term Report file Byeong-Joo Lee 2012.11.19 17896
549 Si_Ge Phasediagram(Homework #4) 한인모 2006.10.17 21953
» precision 문제 file 김현수 2007.09.17 20863
547 Multicomponent Diffusion file Byeong-Joo Lee 2014.05.28 22033
태그 쓰기
Board Pagination ‹ Prev 1 ... 22 23 24 25 26 27 28 29 30 31 ... 55 Next ›
/ 55

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

✔ 설치 취소

Designed by sketchbooks.co.kr / sketchbook5 board skin

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Yesterday 366
Today 326
TOTAL 1437001
Since 2005.9.8
XE Login