高次元データを2次元に圧縮して可視化する技術、PCAとt-SNE/UMAP。
100次元のデータって、どうやったら絵にできるの?
そういう時こそ次元削減の出番ね。 代表的な手法はPCA(主成分分析)・t-SNE・UMAPよ。
PCAは『分散が最大になる方向(主成分)』を順に取り出して低次元に射影する線形手法。 計算が速く、解釈しやすい。
分散が最大の方向って?
データが最も広がっている方向、つまり情報量が大きい方向ね。 数学的には{kw('共分散行列')}の固有ベクトル方向で、これが線形代数の固有値分解とつながるの。
じゃあt-SNEは?
t-SNE(t-Distributed Stochastic Neighbor Embedding)は『近傍関係を保つ』非線形次元削減。 局所的な構造を保ちつつ低次元に埋め込む。 可視化に強い。
UMAPは t-SNE の高速版的手法で、より大局的な構造も保つ。 機械学習の特徴量としても使える(t-SNEは可視化専用に近い)。
PCAとt-SNE/UMAP、使い分けは?
計算速度・線形性が必要ならPCA、 可視化目的の非線形ならt-SNE、 大規模・大局構造を保ちたいならUMAP、 という整理ね。
PCAって、情報をどれくらい保てるかも評価できるんだよね?
そう、累積寄与率で見られる。 例えば最初の3主成分で全体の85%の分散を説明できる、という形ね。 80%以上を目安に主成分数を決めるのが実務的。
DS検定では『PCAは線形・分散最大方向』『t-SNE/UMAPは可視化向け』『主成分数は累積寄与率で決定』が頻出。
確認クイズ
PCA(主成分分析)の特徴として正しいのはどれか。
- 非線形な次元削減を行う
- 分散が最大になる方向を主成分として取り出す
- クラスタリングと同じ手法である
- 正解ラベルが必要
こたえを見る
正解: 2. 分散が最大になる方向を主成分として取り出す
分散が最大になる方向を主成分として取り出すのがPCAの基本です。 線形手法で、教師なし学習に分類されます。 累積寄与率を見て、データの主要な情報を保持できる主成分数を決定します。