수치해석 Assignment #1 (9/11 숙제)

이경원

(*.223.203.16) 조회 수 20773 추천 수 79 댓글 0

단축키

Prev이전 문서

Next다음 문서

가 + - Up Down Comment Print Files

single precision 과 double precision 에 대해서
더하는 수를 계속 줄여나가며 어디서 에러가 나는 지를 찾고,
그것을 기준으로 가수가 몇bit로 되어 있는지, 정밀도가 얼마인지를 알아보는 숙제였습니다.

결과는 single precision을 사용할 시, 정밀도는 2^(-23) 이었고, 가수는 23bit로 이루어져 있음을 확인할 수 있었습니다.
double precision을 사용할 시, 정밀도는 2^(-52)이었고, 가수는 52bit로 이루어져 있음을 확인할 수 있었습니다.

Atachment
첨부파일 '1'	SH_ASS01.exe,

Up Down Print 수정 삭제

✔댓글 쓰기

●? 에디터 선택하기

✔ 텍스트 모드 ✔ 에디터 모드

List of Articles
번호	제목	글쓴이	날짜	조회 수
69	HW#8 이사민	이사민	2022.11.22	77
68	이형진 HW3 제출합니다.	이형진	2022.09.27	76
67	이형진 Final 제출합니다.	이형진	2022.12.15	75
66	final 이마태	이마태	2022.12.15	75
65	Homework 5 20190272 장환중	장환중	2022.10.13	75
64	HW#3 이사민	이사민	2022.09.26	75
63	김도윤_mid term	김도윤	2022.10.20	74
62	이형진 HW8 제출합니다	이형진	2022.11.20	73
61	이사민 HW#7	이사민	2022.11.14	73
60	김도윤 HW8	김도윤	2022.11.22	71
59	HW6 이마태	이마태	2022.11.07	71
58	이사민 HW4	이사민	2022.10.03	71
57	HW#3	DOAN,MinhQuan	2022.09.27	70
56	HW1 이마태	이마태	2022.09.07	70
55	Ge-Si phase diagram data	Byeong-Joo Lee	2022.09.28	69
54	HW5 이마태	이마태	2022.10.13	68
53	HW#1 Doan Minh Quan	DOAN,MinhQuan	2022.09.07	68
52	HW#8	DOAN,MinhQuan	2022.11.22	67
51	HW6 이형진 제출합니다	이형진	2022.11.08	67
50	김도윤_HW4	김도윤	2022.10.03	66

태그 쓰기

나눔글꼴 설치 안내

이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

✔ 설치 취소

Yesterday	311
Today	185
TOTAL	1522452