Priori Probability, Posteriori Probability   사전 확률, 선험적 확률, 사후 확률, 후험적 확률

(2020-04-07)
1. 사전 확률, 선험적 확률 (Priori Probability)

  ㅇ 실제 확률 실험 시행 전에(관측전에), 사건 발생에 대해 이미 알고 있는 확률(믿음)
     - 관측전 현재 정보를 기초로하여 정하는 초기 확률(믿음)
        . 이는 경험,직관 등에 의해 이미 알고있는 확률(믿음)임

  ㅇ 여기서의 확률(믿음)은 주관적 확률을 의미함
     - 이는 시행 후 상대 빈도로써 확정하는 객관적 확률과는 다름 


2. 사후 확률, 후험적 확률, 수정 확률, 역 확률 (Posteriori Probability)

  ㅇ 사건 발생 후에(관측후에), 그것이 어떤 원인일 것이라고 생각되는(기대되는) 확률
     - 즉, 결과로부터 원인이 무엇일까라는 역방향 확률 

  ㅇ 사후 확률은 직접 구하기 어려워, 사전 확률 및 기타 정보로부터 이를 계산해 냄    ☞ 3.항 참조
     - 주어진 사전 확률로부터, 관측에 따른 어떤 조건이 부과되었을 때, 기대되는 값
        . 이를, 수정 확률 이라고 함
     - 즉, 추가된 정보로부터 사전 확률를 새롭게 수정/정제하여, 이를 통해 사후 수정 확률이 얻어짐
        . 이렇게 구하는 과정을 `베이즈 갱신 (Bayesian Updating)` 이라고도 함
        . (베이즈 갱신 : 앞의 정보를 이용하여 다음 사후 수정 확률 계산을 위한 사전 확률로 사용)


3. 사후 확률의 표현식 => 베이즈 정리

  ㅇ `사후 확률 P(A|B)`을, `사전 확률 P(A),P(B)과 조건부 확률 P(B|A)`로부터 구할 수 있음
      
[# P(A_i|B_j) = \frac{P(B_j|A_i)P(A_i)}{P(B_j)} #]
- 여기서, {# P(B_j) = \sum^M_{i=1}P(B_j|A_i)P(A_i) #} (전체 확률의 정리) 4. 위의 사후 확률의 표현식에서, 항목별 설명 ㅇ A : 원인, 가정, 가설 ㅇ B : 관측, 결과 ㅇ i = 1,2,...,M : 가설(원인) 종류 (분류 범주/분류 영역/클래스/카테고리 등) ㅇ j = 1,2,... : 관측(샘플)들 ㅇ P(Ai|Bj) : 사후 확률 (조건부확률 : 원인의 확률) - 관측 B를 보고 원인이 A라고 생각되는(기대되는) 확률 ㅇ P(Ai) : 사전 확률 - 원인/소스별로 이미 알고있는 확률 (또는, 초기 믿음) ㅇ P(Bj|Ai) : 우도 (조건부 확률 : 결과의 확률) - 각각의 원인 Ai로부터 결과 Bj가 나타날 것이라는 가설에 대해 지지하는 정도 - 나타난 결과 마다 다른 값을 갖는, 여러 가능한 가설들을 평가할 수 있는 조건부확률 ㅇ P(Bj) : 해당 결과가 나오도록 모든 원인들 마다 기여하는 확률들의 합 - 이는, 사후 확률의 값을 정확히 구하는 계산에는 필요한 값이나, - 굳이, 사후 확률의 크기 비교에 의해 추론/결정/판정을 하므로, 영향을 미치지 않아서, - 통상, 정규화상수로 취급하거나 무시함 ㅇ 한편, 많은 문제에서, 원인이 각 결과에 기여하는 정도가 같고, 정적인 경우가 많으므로, - 사전 확률를 계산에 포함(고려) 않음 ㅇ 한편, `사전 확률`,`우도`는 사전에 훈련 집합을 통해서 구해질 수 있음 5. 한편, 사후 확률을 다음과 같이 표현도 가능우도(Likelihood,조건부 확률), 사전 확률(Priori), 증거(Evidence)에 의해서도 표현 가능 - ωi : 분류 범주/분류 영역/클래스/카테고리 등 (i = 1,2,...,M) - x : 관측 벡터 6. 사후 확률의 응용 例) ※ 만일, 결정 규칙(결정 전략)을 세우려면, - 각 관측 결과 마다 분류범주 M 번의 확률 계산을 해야 함 - 例) 관측 결과가 2진수(참/거짓)일 경우에, 2 x M 번의 확률 계산을 하고 살펴보아야 함 . 이때, 각 결과에서 계산된 사후 확률 값 중 가장 큰 것(가설)을 취하는 것이 합리적임 .. (사후 확률의 계산은, 베이즈 정리에 따른 위 3,4,5항 참고) . 이를두고 최대 사후확률 규칙 이라고 함


[베이즈 통계학] 1. 베이즈 통계 2. 베이즈 정리 3. 사전확률/사후확률 4. 조건부 확률 5. 우도
  1.   기술공통
  2.   기초과학
        1. 과학
    1.   수학
          1. 수학
      1.   기초수학
      2.   집합,논리
      3.   해석학(미적분 등)
      4.   대수학
      5.   확률/통계
        1.   확률 이란?
        2.   확률 정리/법칙
        3.   확률 공간
        4.   확률 모형,분포
        5.   확률 변수
        6.   확률 과정
        7.   통계량
        8.   통계학
              1. 통계학
          1.   모집단,표본
          2.   통계적 기술(記述)
          3.   통계적 추론
          4.   통계적 분석
          5.   비모수 통계
          6.   베이즈 통계학
            1.   1. 베이즈 통계
                2. 베이즈 정리
                3. 사전확률/사후확률
                4. 조건부 확률
                5. 우도
      6.   수치해법
    2.   물리
    3.   화학
    4.   지구,천체 과학
    5.   생명과학
    6.   뇌과학
  3.   진동/파동
  4.   방송/멀티미디어/정보이론
  5.   전기전자공학
  6.   통신/네트워킹
  7.   정보기술(IT)
  8.   공학일반(기계,재료등)
  9.   표준/계측/품질
  10.   기술경영

 
        최근수정     요약목록     참고문헌