確率の基礎

コルモゴロフの公理#

確率とは、次の 3 つを満たす関数 $P$ のこと。

1. $P(A)\ge 0$
2. $P(\mathrm{\Omega })=1$（全事象の確率は 1）
3. 互いに排反な $A_1,A_2,\dots$ について $P(\bigcup A_i)=\sum P(A_i)$

「確率とは何か」ではなく「どんな規則に従うか」で定義するのが要点。 解釈（頻度説、ベイズ説）は公理の外側の話。

標本空間と事象#

• 標本空間 $\mathrm{\Omega }$ … 起こりうる結果の全体
• 事象 … $\mathrm{\Omega }$ の部分集合

サイコロなら $\mathrm{\Omega }=\{1,\dots ,6\}$、「偶数が出る」は $\{\mathrm{2,4,6}\}$。 集合の言葉で書けるので、 和事象・積事象・余事象がそのまま集合演算になる。

基本的な関係#

$$P(A^c)=1-P(A),P(A\cup B)=P(A)+P(B)-P(A\cap B)$$

頻度とベイズ#

立場	確率の意味
頻度説	試行を無限に繰り返したときの相対頻度
ベイズ説	信念の度合い。データで更新される

どちらも同じ公理に従うので数学としては同じ。 違うのは「何に確率を割り当ててよいか」で、 ベイズ説ではパラメータにも確率を置ける。

参考文献#

• Charles M. Grinstead, J. Laurie Snell. Introduction to Probability, 2nd ed. AMS, 1997.（全文公開） https://open.umn.edu/opentextbooks/textbooks/21
• Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference. Springer, 2004. https://doi.org/10.1007/978-0-387-21736-9