Finite Word-length Effect, Finite Word-length Error   유한 어장 효과, 유한 어장 오차

(2019-03-13)

1. 유한 어장 효과

  ㅇ 컴퓨터(디지털시스템)에서, 
     - 유한 개의 비트를 갖고 연속적인 값을 표현하는 불가피한 한계에 따른,
     - 그러한 오차 발생 현상/효과를 지칭함

  ㅇ 주로, 
     - A/D 변환시 `양자화오차`에 의한 한계
     - 컴퓨터가 유한한 자리수(비트들)를 갖고 수를 표현할 때 나타나는 `반올림오차` 등

  ㅇ 한편, 컴퓨터 하드웨어 상에서의 고려사항(제약사항)
     - 수 표현 비트 수가 고정되어있고,
     - 덧셈 장치, 값 저장 레지스터, 데이터 전송데이터 버스 등에서 수의 크기가 다를 수 있음



Copyrightⓒ written by 차재복 (Cha Jae Bok)
"본 웹사이트 내 모든 저작물은 원출처를 밝히는 한 자유롭게 사용(상업화포함) 가능합니다"