確率変数

標本空間の各結果に数を対応させる関数。

$$X:\mathrm{\Omega }\to ℝ$$

「変数」という名前だが実体は関数。 サイコロの目、コインの表裏を 0/1 に写したもの、 測定値のばらつきなど。

分布が本体#

確率変数を扱うとき実際に使うのは、その分布。

• 離散なら確率質量関数 $P(X=x)$
• 連続なら確率密度関数 $p(x)$

いずれも累積分布関数 $F(x)=P(X\le x)$ で 統一的に表せる。

変換#

$Y=g(X)$ も確率変数。連続の場合、密度は

$$p_Y(y)=p_X(g^{-1}(y))\left|\frac{d{g}^{-1}}{dy}\right|$$

ヤコビアンが現れる。 多次元では $|\det J{|}^{-1}$ になり、 正規化フローなどの生成モデルはこの式を積み重ねて 複雑な分布を作っている。

この分野での例#

• SPSA の摂動 ${\mathrm{\Delta }}_k$（対称ベルヌーイ）
• CMA-ES が引く候補（多変量正規）
• 量子測定の結果（測定基底で決まる分布）

参考文献#

• Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference. Springer, 2004. https://doi.org/10.1007/978-0-387-21736-9
• MIT OCW 6.041 Probabilistic Systems Analysis and Applied Probability https://ocw.mit.edu/courses/6-041-probabilistic-systems-analysis-and-applied-probability-fall-2010/