二次形式

$$q(x)=x^{\top }Ax=\sum _{i,j}{A}_{ij}{x}_i{x}_j$$

ベクトルの各成分の二次の項だけからなる関数。 $A$ は対称としてよい（非対称でも対称化して同じ値になる）。

形は固有値で決まる#

固有値分解して $y=Q^{\top }x$ と置くと

$$q(x)=\sum _i{\lambda }_i{y}_i^2$$

固有値の符号がそのまま形を決める。

固有値	形	呼び方
すべて正	お椀	正定値
すべて負	逆さのお椀	負定値
正と負が混在	鞍	不定
0 を含む	平坦な方向がある	半定値

どこに現れるか#

テイラー展開の二次の項として必ず現れる。

$$f(x_0+d)\approx f(x_0)+\nabla f^{\top }d+\frac{1}{2}{d}^{\top }Hd$$

つまりヘッセ行列による二次形式が、 その点での関数の曲がり方を表す。 極小・極大・鞍点の判定が固有値の符号でできるのはこのため。

他にも

• 二次計画 の目的関数
• 多変量正規分布の指数部（Mahalanobis 距離）
• QUBO（変数が 0-1 に制限された二次形式）

参考文献#

• Gilbert Strang. Introduction to Linear Algebra. Wellesley-Cambridge Press. 講義は MIT OCW 18.06 https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/
• Stephen Boyd, Lieven Vandenberghe. Convex Optimization, Appendix A. Cambridge University Press, 2004. https://web.stanford.edu/~boyd/cvxbook/