수치해석 Assignment #1 (9/11 숙제)

이경원

(*.223.203.16) 조회 수 20785 추천 수 79 댓글 0

단축키

Prev이전 문서

Next다음 문서

가 + - Up Down Comment Print Files

single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.

결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.

Atachment
첨부파일 '1'	SH_ASS01.exe,

Up Down Print 수정 삭제

✔댓글 쓰기

●? 에디터 선택하기

✔ 텍스트 모드 ✔ 에디터 모드

List of Articles
번호	제목	글쓴이	날짜	조회 수
69	이형진 Final 제출합니다.	이형진	2022.12.15	88
68	Final - Doan Minh Quan	DOAN,MinhQuan	2022.12.15	88
67	HW1_fixed	DOAN,MinhQuan	2022.09.12	87
66	이형진 HW3 제출합니다.	이형진	2022.09.27	87
65	이형진 HW8 제출합니다	이형진	2022.11.20	87
64	final 이마태	이마태	2022.12.15	87
63	HW#3	DOAN,MinhQuan	2022.09.27	83
62	Ge-Si phase diagram data	Byeong-Joo Lee	2022.09.28	83
61	이사민 HW4	이사민	2022.10.03	83
60	HW6 이형진 제출합니다	이형진	2022.11.08	83
59	HW#8 이사민	이사민	2022.11.22	83
58	HW#3 이사민	이사민	2022.09.26	82
57	HW#6 이사민	이사민	2022.11.07	82
56	HW6 이마태	이마태	2022.11.07	81
55	김도윤_mid term	김도윤	2022.10.20	80
54	이사민 HW#7	이사민	2022.11.14	79
53	HW#8	DOAN,MinhQuan	2022.11.22	79
52	HW#1 Doan Minh Quan	DOAN,MinhQuan	2022.09.07	77
51	HW1 이마태	이마태	2022.09.07	77
50	HW#5 이사민	이사민	2022.10.13	76

태그 쓰기

나눔글꼴 설치 안내

이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

✔ 설치 취소

Yesterday	397
Today	24
TOTAL	1542985