Statistical Decision Theory   통계적 결정 이론

(2020-01-27)

Decision Boundary, 결정 경계, Distrimination Function, 판별 함수, Decision Region, 결정 영역, Loss Function, 손실 함수, Risk Function, 위험 함수

1. 통계적 결정 이론 (Statistical Decision Theory)

  ㅇ 불확실한 상황에서 최적의 결정을 하기위한 이론
     - 위험 함수의 값에 따라 행동의 효율을 측정하고, 
     - 행동의 결정을 나타내는 결정 함수를 구하는 이론

  ㅇ 결정 이론 = 확률이론(Probability theory) + 효용이론(Utility Theory)


2. 결정 이론에서 주요 용어

  ※ ☞ 결정 이론 용어 참조
     - 결정 영역(Decision Region), 결정 경계(Decision Boundary), 
       결정 함수 (Decision Function) / 판별 함수 (Distrimination Function), 
       행동(Action)/계책/결정(Decision) 등


3. 손실 함수, 위험 함수 이란?손실 함수 (Loss Function)
     - 모수 θ를 추정값 t로 잘못 추정함으로써 발생되는 손실(loss) 정도를 나타내는 함수

     - 손실 함수 표현식
        . l(t;θ) ≥ 0
        . 여기서,
           .. t=θ일 때, l(t;θ) = 0
           .. t는 추정량 T=T(X1,X2,...,Xn)의 개별 값
           .. 표본값 t는 X1,X2,...,Xn에 종속됨

     - 例)
        . l(t;θ) = (t-θ)2 : 제곱오차 손실 함수
        . l(t;θ) = | t-θ | : 절대값오차 손실 함수

  ㅇ 위험 함수 (Risk Function)
     - 특정한 표본추출법에 의해 야기될 수 있는 표본 오차의 정도를 나타내는 함수
        . 즉, 그러한 방법에 따른 손실함수의 평균화

     - 위험 함수 표현식
        . R(θ;T) = E[l(T;θ)]


[결정이론] 1. 결정 이론 2. 결정 규칙 3. 결정 트리 4. ML 규칙 5. MAP 규칙 6. 결정 이론 용어

 
        최근수정     요약목록     참고문헌