[정보통신기술용어해설] | 메뉴 닫기 |
Finite Word-length Effect, Finite Word-length Error 유한 어장 효과, 유한 어장 오차 | (2019-03-13) |
1. 유한 어장 효과 ㅇ 컴퓨터(디지털시스템)에서, - 유한 개의 비트를 갖고 연속적인 값을 표현하는 불가피한 한계에 따른, - 그러한 오차 발생 현상/효과를 지칭함 ㅇ 주로, - A/D 변환시 `양자화오차`에 의한 한계 - 컴퓨터가 유한한 자리수(비트들)를 갖고 수를 표현할 때 나타나는 `반올림오차` 등 ㅇ 한편, 컴퓨터 하드웨어 상에서의 고려사항(제약사항) - 수 표현 비트 수가 고정되어있고, - 덧셈 장치, 값 저장 레지스터, 데이터 전송용 데이터 버스 등에서 수의 크기가 다를 수 있음
[(디지털) 수 표현] | 1. 디지털 수 체계 2. 기수(radix,base)/가수(mantissa) 3. 보수(complemen) 4. 2의 보수,1의 보수 5. 고정소수점 6. 부동소수점 7. 2진 부동소수점(IEEE 754) 8. 유한어장효과 9. 오버플로우 10. 비트,바이트,워드 11. MSB,LSB |