教師なし学習
正解ラベルなしで、データの構造を見つける。
主な課題#
| 課題 | 内容 | 手法 |
|---|---|---|
| クラスタリング | 似たものをまとめる | k-means、階層的クラスタリング |
| 次元削減 | 少ない変数で表す | PCA、t-SNE、UMAP |
| 密度推定 | 分布そのものを推定 | 混合ガウス、生成モデル |
| 異常検知 | 外れたものを見つける | Mahalanobis 距離など |
主成分分析#
分散が最大の方向から順に軸を取る。 SVD でデータ行列を直接分解しても同じ結果になる。
評価が難しい#
正解が無いので、良し悪しの判定に客観的な基準が無い。
- クラスタ数をいくつにするか
- 得られたクラスタに意味があるか
シルエット係数などの内部指標はあるが、 最終的には人間の解釈に頼ることになる。 教師あり学習と大きく違う点。
自己教師あり学習#
データ自身から擬似ラベルを作り、教師あり学習に持ち込む方式。
- 画像の一部を隠して復元させる
- 次の単語を予測させる（LLM）
ラベル無しデータを教師あり学習の枠組みで使えることが、 近年の大規模モデルの成功を支えている。
参考文献#
- Trevor Hastie, Robert Tibshirani, Jerome Friedman. The Elements of Statistical Learning, 2nd ed. Springer, 2009.（全文公開） https://hastie.su.domains/ElemStatLearn/
- Kevin P. Murphy. Probabilistic Machine Learning: An Introduction. MIT Press, 2022. https://probml.github.io/pml-book/book1.html
- Christopher M. Bishop. Pattern Recognition and Machine Learning. Springer, 2006. https://www.microsoft.com/en-us/research/publication/pattern-recognition-machine-learning/