Bayes' Theorem, Bayes' Rule   베이즈 정리, 베이즈의 정리, 베이즈 규칙

(2018-03-06)

베이지안 정리, 베이시안 정리

1. 베이즈 통계의 기초가 되는, 베이즈 정리의 유도

  ㅇ 아래의 `결합확률조건부확률의 관계식 `으로부터,
     -  P(A,B) = ` P(A|B) P(B) = P(B|A) P(A) `  
        . P(A,B) 또는 P(A∩B) : 결합확률
        . P(A|B) 또는 P(B|A)  : 조건부확률
        . 이를, 확률의 승법정리(Multiplication theorem of Probability)라고도 함

  ㅇ 아래와 같이 변형되어 유도됨 
     - ` P(A|B) = P(B|A) P(A) / P(B) `


2. 베이즈 정리는, 정리된 식 보다 그 해석이 더 중요함

  ㅇ P(A|B) = P(B|A) P(A) / P(B)

     -  A      : 원인 또는 가정(Hypothesis)
     -  B      : 관찰 또는 관측(Observation)
     -  P(A|B) : B가 관측됐을때 그 원인이 A일 조건부 확률(사후 확률)
        . A의 조건부확률 또는 B라는 특정값에 의한 사후 확률 (Posteriori)
           .. 사건 B가 일어났다는 것을 알고, 
           .. 그것이 원인 A로부터 일어난 것이라고 생각되는 조건부확률
     -  P(B|A) : A가 주어졌을 때의 조건부확률 (Likelihood,우도)
        . A 하에서 B의 발생 확률
     -  P(A)   : A의 사전확률 (Priori)
        . A의 성립 확률
     -  P(B)   : B의 사전확률 (Evidence)
        . B의 성립 확률

  ㅇ 의미
     - 사후확률사전확률과의 관계를 밝힘
        . 사후확률 P(A|B) 은, 사전확률 P(A),P(B) 및 조건부확률 P(B|A)로부터 구할 수 있음
     - 또는, 
        . 주어진 조건부 확률 P(B|A) 또는 우도를 이용, 다른 조건부 확률 P(A|B)을 구할 수 있음


3. 베이즈 정리로부터, 사후확률의 계산

  ㅇ (관측 결과를 살펴봄으로써,) 사전확률사후확률로 전환할 수 있음 => 베이즈 갱신
       사후확률 계산식
       

     - X    : 관측 결과
     - Θj : 분류 범주 / 분류 영역 / 카테고리
        . 즉, 모수를 미지의 확률변수로 보고, 이것의 확률분포를 찾으려는 것 임
     - P[Θj] : 사전확률 (Priori Probability)
        . 사건 발생 전에 이미 가지고 있는 사전 지식
     - P[Θj|X] : 사후확률 (Posteriori Probability)
        . 관측 결과로부터 어떤 원인에 의해 출현한 것이라고 생각(추정)되는 조건부확률
     - P[X|Θj] : 조건부확률 (Likelihood, 우도)
        . 나타난 결과 마다 다른 값을 갖는, 여러 가능한 가설들을 평가할 수 있는 조건부확률
     -  : 증거(Evidence)  <= 전체 확률의 정리 임
        . P[X]는, 사후확률의 계산에는 필요한 값이나,
                  추론/결정/판정에 영향을 미치지 않는 정규화상수로 취급됨


[베이즈 통계학] 1. 베이즈 통계 2. 베이즈 정리 3. 사전확률/사후확률 4. 조건부 확률 5. 우도
  1.   기술공통
  2.   기초과학
        1. 과학
    1.   수학
          1. 수학
      1.   기초수학
      2.   집합,논리
      3.   해석학(미적분 등)
      4.   대수학
      5.   확률/통계
        1.   확률 이란?
          1.   1. 확률
              2. 전체 확률 법칙
              3. 대수의 법칙
              4. 중심극한의 정리
              5. 자유도
              6. 체비셰프 부등식
        2.   확률공간
        3.   확률 모형,분포
        4.   확률 변수
        5.   확률 과정
        6.   통계량
        7.   통계학
      6.   수치해법
    2.   물리
    3.   화학
    4.   지구,천체 과학
    5.   생명과학
  3.   진동/파동
  4.   방송/멀티미디어/정보이론
  5.   전기전자공학
  6.   통신/네트워킹
  7.   정보기술(IT)
  8.   공업일반(기계,재료등)
  9.   표준/계측/품질
  10.   기술경영

 
        최근수정     요약목록(시험중)     참고문헌