[정보통신기술용어해설] |
Finite Word-length Effect, Finite Word-length Error 유한 어장 효과, 유한 어장 오차 | (2019-03-13) |
1. 유한 어장 효과 ㅇ 컴퓨터(디지털시스템)에서, - 유한 개의 비트를 갖고 연속적인 값을 표현하는 불가피한 한계에 따른, - 그러한 오차 발생 현상/효과를 지칭함 ㅇ 주로, - A/D 변환시 `양자화오차`에 의한 한계 - 컴퓨터가 유한한 자리수(비트들)를 갖고 수를 표현할 때 나타나는 `반올림오차` 등 ㅇ 한편, 컴퓨터 하드웨어 상에서의 고려사항(제약사항) - 수 표현 비트 수가 고정되어있고, - 덧셈 장치, 값 저장 레지스터, 데이터 전송용 데이터 버스 등에서 수의 크기가 다를 수 있음