直交

$$⟨x,y⟩=0$$

内積が 0 であること。幾何的には直角。

なぜ嬉しいのか#

直交する成分は互いに干渉しない。

$$\Vert x+y{\Vert }^2=\Vert x{\Vert }^2+\Vert y{\Vert }^2(x⟂y)$$

ピタゴラスの定理。これにより、直交基底で分解すると 各成分を独立に扱える。

$$x=\sum _i⟨x,b_i⟩b_i$$

正規直交基底なら、係数は内積を取るだけで求まる。 一般の基底では連立方程式を解く必要があるので、格段に楽。

どこで使うか#

• 射影と最小二乗法。残差が列空間と直交する
• 固有ベクトル。 対称行列なら異なる固有値の固有ベクトルは自動的に直交
• 量子測定。異なる測定結果に対応する状態は直交する
• フーリエ変換、直交多項式

グラム・シュミット#

任意の基底から正規直交基底を作る手続き。 ただし数値的には不安定で、実装では 修正グラム・シュミットか Householder 変換による QR 分解を使う。

参考文献#

• Lloyd N. Trefethen, David Bau III. Numerical Linear Algebra. SIAM, 1997. https://doi.org/10.1137/1.9780898719574
• Sheldon Axler. Linear Algebra Done Right, 4th ed. Springer, 2024.（全文公開） https://linear.axler.net/