1. 확률 (Probability)
ㅇ 어떤 사건이 일어날 가능성의 측도(measure,측량 단위)를, (수로써 나타냄)
- 상대적 비율(상대빈도)로써 표현될 수 있음. (0 ~ 1 사이의 실수로 나타냄)
ㅇ 확률론 (Probability Theory)
- 불확실성을 정량화하고, 조작할 수 있는 수학적인 토대를 마련하는 것
2. 확률의 종류
ㅇ 이론적 확률 (수학적 확률, 공리적 확률)
- 누구라도 동일한 값으로 계산되는 엄밀한 확률 : 수학적으로 정의됨
* 집합론 및 수학적 공리에 기반을 둠 (☞ 아래 3.항 참조)
※ 통계학에서는, 확률의 의미를, 크게 다음 2가지로 달리 해석하고 있음
ㅇ 객관적 확률 (통계적 확률, 상대빈도 확률, 경험적 확률)
- 동일 조건/독립적으로 몇번 반복하였을 때의 발생 확률 : 도수 이론(frequency theory)
* 충분히 많은 반복된 실험의 `상대 빈도` 발생에 기반을 둠
. `대수의 법칙` => 시행이 많아질수록 `통계적 확률`은 `수학적 확률`에 가까워짐
* 확률의 빈도론적 해석 : 18세기 후반 ~ 19세기 (Laplace, Mises)
. Fisher, Neyman 등 주류 통계학 형성 (전통적 통계 분석에 활용)
.. 객관적, 반복 실험 기반 (반복 실험 어려우면 적용 불가)
ㅇ 주관적 확률
- 관찰자의 주관적 믿음/확신으로써 표현되는 확률 : 주관적 견해(subjective view)
* `베이즈 확률` => 모집단을 미리 확정짓지 않고, 모수를 마치 확률변수 처럼 취급
. 확률은 주관적이며, 정보가 바뀌면 갱신 가능하다는 견해
* 확률의 주관적 해석 : 18세기 (Bayes), 20세기 중반 이론 정립
. De Finetti, Ramsey 등 비주류에서 시작, 후에 부활 (AI, 머신러닝, 예측 모델링 등에 활용)
.. 주관적, 믿음의 정도 기반 (반복 불가한 사건도 적용 가능)
3. 확률 공리 (공리적 확률) (Axiom of Probability)
ㅇ 오랫동안 경험적으로 쌓아온 확률현상에 대한 경험적 인식을 바탕으로 이론화한 것
- 어떤 사건의 확률을 계산하기 위한 규칙의 근거를 제시함
ㅇ 수학적으로 확률은 다음의 3가지 공리로부터 출발한다.
- 공리 1 (Non negativity, 양의 실수)
. 임의의 사건 A에 대하여 1 ≥ P(A) ≥ 0
- 공리 2 (Normalization, 정규화)
. P(S) = 1 (여기서, S 는 표본 전체의 집합,표본공간)
- 공리 3 (Additivity, 가법성)
. 상호배타적인 사건 A₁,A₂,A₃,...{#A_1,A_2,A_3,\cdots#}에 대하여,
. P(A₁∪ A₂∪ A₃∪ ...) = P(A₁) + P(A₂) + P(A₃) + ...
* 확률은 0 과 1 사이의 실수이다. (공리 1 및 2)
* 모든 상호배타적 사건의 합집합에 대한 확률은 개개 사건의 확률의 합이다. (공리 3)
※ 1933년 러시아 수학자 골모고르프(A. N. Kolmogorov,1903~1987)가 정형화시킴
4. 확률의 주요 용어/정리/법칙
※ ☞ 확률 용어 참조
- 독립 사건, 종속 사건, 배반 사건, 결합 사건
- 동시 확률, 조건부 확률, 주변 확률, 사전 확률, 사후 확률, 우도
- 확률변수, 확률모형/확률분포, 확률함수(누적분포함수,확률질량함수,확률밀도함수) 등
※ ☞ 확률 정리/확률 법칙 참조
- 확률의 가법 정리, 확률의 승법 정리
- 대수의 법칙, 중심 극한 정리, 전체 확률 법칙