Finite Word-length Effect, Finite Word-length Error   유한 어장 효과, 유한 어장 오차

(2019-03-13)

1. 유한 어장 효과

  ㅇ 컴퓨터(디지털시스템)에서, 
     - 유한 개의 비트를 갖고 연속적인 값을 표현하는 불가피한 한계에 따른,
     - 그러한 오차 발생 현상/효과를 지칭함

  ㅇ 주로, 
     - A/D 변환시 `양자화오차`에 의한 한계
     - 컴퓨터가 유한한 자리수(비트들)를 갖고 수를 표현할 때 나타나는 `반올림오차` 등

  ㅇ 한편, 컴퓨터 하드웨어 상에서의 고려사항(제약사항)
     - 수 표현 비트 수가 고정되어있고,
     - 덧셈 장치, 값 저장 레지스터, 데이터 전송데이터 버스 등에서 수의 크기가 다를 수 있음

수 표현
   1. 디지털 수 체계   2. 기수(radix,base)/가수(mantissa)   3. 보수(complemen)   4. 2의 보수,1의 보수   5. 고정소수점   6. 부동소수점   7. 2진 부동소수점(IEEE 754)   8. 유한어장효과   9. 오버플로우   10. 비트,바이트,워드   11. MSB,LSB  
양자화
   1. 양자화   2. 스칼라 양자화   3. 벡터 양자화   4. 양자화 스텝/레벨/비트   5. 양자화 잡음   6. 양자화 잡음 해석   7. 압신   8. 유한어장효과   9. 디더링  


Copyrightⓒ written by 차재복 (Cha Jae Bok)               기술용어해설 후원
"본 웹사이트 내 모든 저작물은 원출처를 밝히는 한 자유롭게 사용(상업화포함) 가능합니다"