수치해석 Assignment #1 (9/11 숙제)

이경원

(*.223.203.16) 조회 수 20770 추천 수 79 댓글 0

단축키

Prev이전 문서

Next다음 문서

가 + - Up Down Comment Print Files

single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.

결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.

Atachment
첨부파일 '1'	SH_ASS01.exe,

Up Down Print 수정 삭제

✔댓글 쓰기

●? 에디터 선택하기

✔ 텍스트 모드 ✔ 에디터 모드

List of Articles
번호	제목	글쓴이	날짜	조회 수
1029	final_김경수	김경수	2008.12.15	20579
1028	final_김혜민	김혜민	2008.12.16	19581
1027	Final_유종명	명이에요	2014.06.19	18045
1026	Final_유종명 자유주제 데이터 추가	명이에요	2014.06.20	18150
1025	Final_이정훈	이정훈	2008.12.15	20707
1024	Final_황혜성(Darken Uphill Diffusion)	황혜성	2008.12.16	21905
1023	G77 : 포트란77 컴파일러	도은철	2006.09.05	56738
1022	Ge-Si phase diagram	Byeong-Joo Lee	2017.09.20	7187
1021	Ge-Si Phase Diagram data	박한나	2012.09.27	18411
1020	Ge-Si phase diagram data	Byeong-Joo Lee	2017.03.23	13979
1019	Ge-Si phase diagram data	Byeong-Joo Lee	2022.09.28	69
1018	Ge-Si 상태도 data	Byeong-Joo Lee	2014.03.29	18286
1017	Ge-Si 상태도 data	Byeong-Joo Lee	2016.03.22	15694
1016	Ge-Si 상태도 data point	Byeong-Joo Lee	2013.10.01	17367
1015	Gibbs energy of melting	Byeong-Joo Lee	2012.09.27	18736
1014	Homework #1 20190272 장환중	장환중	2022.09.19	55
1013	Homework - 4	Byeong-Joo Lee	2006.10.11	22223
1012	Homework 2	김도윤	2022.09.20	46
1011	Homework 5 20190272 장환중	장환중	2022.10.13	75
1010	Homework#4	김경옥	2006.10.17	21898

태그 쓰기

나눔글꼴 설치 안내

이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

✔ 설치 취소

Yesterday	349
Today	409
TOTAL	1518096