1. 추정 관련 용어들
ㅇ 추정 (Estimation)
- 관측 표본(표본 통계량)에 기초하여 미지량(모집단의 모수)를 추정하는 것
ㅇ 추정량 (Estimate)
- 모수를 추정하는 통계량
ㅇ 추정값,추정치 (Estimated Value)
- 모수를 추정하여 나온 특정 값
ㅇ 추정기 (Estimator)
- 관측 표본으로부터 추정량 계산을 하는 절차/규칙/알고리즘/장치
2. 추정량의 의미
ㅇ 모집단의 표본에서 나온 표본 통계량(표본 평균,표본 분산 등)은 모두 추정량이 될 수 있으며,
- 이때, 추정량은 어떤 표본분포를 띈 확률변수가 됨
ㅇ 즉, 추정량은, 관측된 표본에 따라 모수를 추정하는 것으로써,
- 관측 표본 때 마다 그 값이 달라지게되는 확률변수(랜덤변수) 임
3. 추정량의 표기
ㅇ 모집단의 특성을 나타내는 미지의 모수로써, θ로 표시하고,
- 모수를 추론키위해 표본으로부터 설정한 추정량(표본 통계량)을 {# \hat{θ} #}로 표시함
. 미지의 모수 θ위에 모자기호(hat) ＾를 사용하여 {# \hat{θ} #}으로 표시하거나,
. 표본 X로부터의 계산된 결과임을 나타내도록, {# \hat{θ}(X) #}
. 표본 크기가 n임을 나타내도록, {# \hat{θ}_n #} 등을 씀
ㅇ 점 추정, 구간 추정 표기
- 점 추정 : {# \hat{θ} #}
- 구간 추정 : {# \hat{θ}_L < \hat{θ} < \hat{θ}_U #}
4. 추정량의 선택 기준 ☞ 점 추정량 선택기준 참조
ㅇ 좋은 추정량을 선택하기위한, 일반 기준
- 모집단에서 특정 통계량을 추정하기 위해,
- 모집단에서 추출된 표본 평균,표본 분산,표본 비율 등 표본통계량 중
- 어떤 통계량이 가장 좋은 추정량이며, 이를 선택하는 기준은 어떤 것일까?
- 아마도, 추정하고자하는 모수의 실제값(모수 통계량)에 매우 가깝거나,
- 또는, 그 주위에 집중되는 경향을 보이는 추정량을 선택하는 것이 타당할 것임
ㅇ 좋은 추정량을 선택하기 위한, 주요 기준
- 불편성/불편의성 (Unbiasedness) : 편의(치우침) 없는 성질
- 효율성 (Efficiency) : 추정량 분산이 작게 나타나는 성질
- 일치성 (Consistency) : 표본 크기가 커질수록,
. 추정량이 모수에 점근적(asymptotic)으로 근접하는 성질
- 충분성 (Sufficiency) : 어떤 추정량이 모수 θ에 대해,
. 가장 많은 정보를 제공하는가 여부를 나타내는 성질
5. 추정량의 정확성 평가 척도
ㅇ 추정량의 정확성(accuracy) 평가를 위한 질적 척도/측도(measure) 例)
- 평균 제곱 오차(MSE), 제곱근 평균 제곱 오차 (RMSE), 우도(Likelihood) 등
6. 추정량을 구하는 법
※ ☞ 추정법 (Method of Estimation) 참조
- 미지의 모수에 대해 좋은 추정량/추정값을 구하는 일반적인 방법으로써,
. 대부분, 실제 모수와 추정량과의 차이를 작게 가져가도록,
. 평균제곱오차, 추정량의 분산 등을 최소화시키는 등의 여러 방법이 가능함
- 例)
. `최소 제곱법(LSM)` 또는 `선형 회귀분석` 또는 `최소 평균제곱오차(MMSE)`
. `최대 우도 추정법` 또는 `ML 규칙` 또는 `최대가능도법`
. 적률 방법
. 베이즈 추정법 등
7. [참고사항]
ㅇ 통신 추정 ☞ 채널 추정 등 참조