偏微分 — 知識ノート

\frac{\partial f}{\partial x_{i}} = \lim_{h \to 0} \frac{f (\dots, x_{i} + h, \dots) - f (\dots, x_{i}, \dots)}{h}

他の変数を固定して、1 つの変数だけで微分する。

意味と限界#

偏微分は座標軸方向の変化率しか見ていない。そのため各軸方向の偏微分がすべて存在しても、関数が滑らか（全微分可能）とは限らない。

軸方向以外を含めた変化を扱うには方向微分や全微分が要る。

$f$ が $C^{2}$ 級（二階偏導関数が連続）なら

\frac{\partial^{2} f}{\partial x_{i} \partial x_{j}} = \frac{\partial^{2} f}{\partial x_{j} \partial x_{i}}

Schwarz の定理。これによりヘッセ行列が対称になる。対称だからこそ固有値が実数で固有ベクトルが直交し、二次形式の形が固有値の符号で分類できる。

$n$ 変数の関数の偏微分をすべて数値的に求めるには、最低でも $n + 1$ 回の関数評価が要る（前進差分）。中心差分なら $2 n$ 回。

この $n$ 倍のコストが、量子計算の VQE で SPSA が選ばれる理由になっている。