Estimation   추정, 통계적 추정

(2018-05-31)
1. 추정 (Estimation)

  ㅇ 직접 관측할 수 없는 값들에 대해 관측가능한 변수들을 통해 추정하는 것
     - 이용가능한 데이터(관측값,샘플값)로부터 알려지지 않은 어떤 값(모수)을 예측/추정 함
        . 例) 잡음이 섞인 신호로부터 진폭,주파수,위상 등을 추정  ☞ 채널 추정 참조

  ㅇ 모집단에서 추출한 표본 특성을 분석하여, 모수에 대해 추측/추론을 하는 통계적 추론 과정
     - 모집단확률적 특성을 알기위해, 추출된 표본에 포함된 정보를 이용함


2. 추정량, 선택 기준, 평가 척도, 추정법

  ㅇ 추정의 例
     - 例) 모집단정규분포임을 알고있음 
        . 모 분산(표준편차)을 알고 있을 때, 표본으로부터 모 평균의 추정
           .. 대 표본일 때의 모 평균의 추정
           .. 소 표본일 때의 모 평균의 추정  ☞ t 분포 참조
        . 모 분산(표준편차)을 모를 때, 표본으로부터 모 평균의 추정  ☞ t 분포 참조
        . 모 평균을 알고 있을 때, 표본으로부터 모 분산의 추정
        . 모 평균을 모를 때, 표본으로부터 모 분산의 추정

  ㅇ 추정량추정량(Estimate) 참조
     - 모수를 추정하기 위해 사용되는 표본통계량

  ㅇ 좋은 추정량 선택기준                                    ☞ 점 추정량 선택기준 참조
     - 불편성, 충분성, 효율성, 유효성, 일치성 등으로 따져 봄
        . 불편의 추정량 (Unbiased Estimate) 例 : 표본 평균, 표본 분산, 표본 표준편차 등

  ㅇ 추정의 정확성에 대한 질적인 평가 척도
     - 평균제곱오차(MSE), 제곱근평균제곱오차(RMSE), 우도(Likelihood) 등

  ㅇ 좋은 추정량을 구하는 법                                 ☞ 추정법 참조
     - 미지의 모수에 대해 좋은 추정량/추정값을 구하는 일반적인 방법으로써,
        . 대부분, 실제 모수추정량과의 차이를 작게 가져가기 위해,
        . 평균제곱오차, 추정량의 분산 등을 최소화시키는 등의 여러 방법이 가능함
     - 例)  
        . `최소 제곱법(LSM)` 또는 `선형 회귀분석` 또는 `최소 평균제곱오차(MMSE)`
        . `최대 우도 추정법` 또는 `ML 규칙`
        . 적률 방법 
        . 베이즈 추정법 등


3. [용어 비교]

  ㅇ `추정(Estimation)`, `가설검정(Hypothesis Test)` 비교
     - 추정은, 
        . 모수에 대해 사전지식이 별로 없을 때 표본으로부터 모수를 추정하는 통계적 추론
        . 모집단모수에 대해 표본으로부터 추정을 하는 것 
     - 가설검정은, 
        . 모수에 대해 약간의 지식이 있는 경우에 가설의 타당성을 판단해보는 통계적 추론
        . 모집단에 대한 가설을 해 보고 이의 진위를 검정통계량에 기초하여 검정을 하는 것

  ㅇ `점 추정(Point Estimation)`, `구간 추정(Interval Estimation)` 비교
     - 점추정추정량, 점 추정량 선택기준, 최소평균제곱오차 등 참조
        . 하나의 단일 값으로 모수를 추정하는 것
     - 구간추정신뢰수준, 신뢰구간  참조
        . 일정한 구간을 주어 그 안에 모수가 있을 가능성이 얼마인가를 추정하는 것

  ㅇ `모수적(Parametric) 방법`, `비모수적(Nonarametric) 방법` 비교
     - 모수적 방법   : 모집단 확률분포 형태는 알고 있으나, 모수는 모르는 경우에 모수를 추론
     - 비모수적 방법 : 모집단에 대한 충분한 정보가 없을 경우, 모집단 분포함수 등에 대한 추론
       
  ㅇ `추정(Estimation)`, `패턴 분류(Classification)` 비교
     - 추정은, 표본으로부터 어떤 실수 값을 찾는 것
     - 패턴 분류는, 표본으로부터 관측값이 모집단 내 정해진 어떤 부류에 속하는지를 판단하는 것

  ㅇ `정적인 추정(Static Estimation)`, `동적인 추정(Dynamic Estimation)` 비교
     - 정적인 모수(파라미터)의 추정  : 파라미터 추정
     - 동적인 모수(파라미터)의 추정  : 신호 추정/신호 검출(검파)
     * 실제 문제에서는 파라미터화된 모델(Parameterized Model)이 어느정도 준비되어야 함

  ㅇ `추정(Estimation)`, `예측(Predication)` 비교
     - 추정(Estimation)  : 관측 데이터(샘플)로부터 미지의 어떤 값을 추정하는 것
     - 예측(Predication) : 시간적으로 이전 샘플들로부터 다음 샘플예측하는 것


[추정] 1. 통계적 추정 2. 추정량,추정값 3. 추정법
[점추정,구간추정] [추정 정확성 척도]

 
        최근수정     요약목록(시험중)     참고문헌