分散 — 知識ノート

Var (X) = 𝔼 [(X - μ)^{2}] = 𝔼 [X^{2}] - μ^{2}

平均からのずれの二乗の期待値。 散らばりの度合い。

なぜ二乗するのか#

単純なずれ $𝔼 [X - μ]$ は必ず 0 になる（正負が打ち消す）。絶対値でもよいが、二乗の方が

X ⟂ Y ⟹ Var (X + Y) = Var (X) + Var (Y)

独立なら分散は足せる。これが $\sqrt{n}$ 則の源。 $n$ 個の平均の分散は $σ^{2} / n$ 、標準偏差は $σ / \sqrt{n}$ 。

モンテカルロ法の誤差が $𝒪 (1 / \sqrt{N})$ なのも、量子測定のショットノイズが $1 / \sqrt{shots}$ で減るのも同じ理屈。

Var (X + Y) = Var (X) + Var (Y) + 2 Cov (X, Y)

共分散項が残る。共分散行列を使えば $Var (a^{⊤} X) = a^{⊤} Σ a$ と書け、半正定値性が分散の非負性そのものであることが見える。

Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference. Springer, 2004. https://doi.org/10.1007/978-0-387-21736-9
Charles M. Grinstead, J. Laurie Snell. Introduction to Probability, 2nd ed. AMS, 1997.（全文公開） https://open.umn.edu/opentextbooks/textbooks/21