次元削減(PCA・t-SNE・UMAP)

高次元データを圧縮・可視化する3手法。線形のPCAと非線形のt-SNE/UMAPの使い分け。

高次元データを2次元に圧縮して可視化する技術、PCAとt-SNE/UMAP。

胡桃 あんず(普段) 胡桃 あんず

100次元のデータって、どうやったら絵にできるの?

若葉 みどり 先生(笑顔) 若葉 みどり 先生

そういう時こそ次元削減の出番ね。 代表的な手法はPCA(主成分分析)・t-SNE・UMAPよ。

白銀 ゆき(普段) 白銀 ゆき

PCAは『分散が最大になる方向(主成分)』を順に取り出して低次元に射影する線形手法。 計算が速く、解釈しやすい。

桜井 もも(普段) 桜井 もも

分散が最大の方向って?

白銀 ゆき(普段) 白銀 ゆき

データが最も広がっている方向、つまり情報量が大きい方向ね。 数学的には{kw('共分散行列')}の固有ベクトル方向で、これが線形代数の固有値分解とつながるの。

胡桃 あんず(普段) 胡桃 あんず

じゃあt-SNEは?

若葉 みどり 先生(普段) 若葉 みどり 先生

t-SNE(t-Distributed Stochastic Neighbor Embedding)は『近傍関係を保つ』非線形次元削減。 局所的な構造を保ちつつ低次元に埋め込む。 可視化に強い。

白銀 ゆき(普段) 白銀 ゆき

UMAPは t-SNE の高速版的手法で、より大局的な構造も保つ。 機械学習の特徴量としても使える(t-SNEは可視化専用に近い)。

桜井 もも(普段) 桜井 もも

PCAとt-SNE/UMAP、使い分けは?

若葉 みどり 先生(普段) 若葉 みどり 先生

計算速度・線形性が必要ならPCA、 可視化目的の非線形ならt-SNE、 大規模・大局構造を保ちたいならUMAP、 という整理ね。

胡桃 あんず(普段) 胡桃 あんず

PCAって、情報をどれくらい保てるかも評価できるんだよね?

白銀 ゆき(普段) 白銀 ゆき

そう、累積寄与率で見られる。 例えば最初の3主成分で全体の85%の分散を説明できる、という形ね。 80%以上を目安に主成分数を決めるのが実務的。

白銀 ゆき(普段) 白銀 ゆき

DS検定では『PCAは線形・分散最大方向』『t-SNE/UMAPは可視化向け』『主成分数は累積寄与率で決定』が頻出。

確認クイズ

PCA(主成分分析)の特徴として正しいのはどれか。

  1. 非線形な次元削減を行う
  2. 分散が最大になる方向を主成分として取り出す
  3. クラスタリングと同じ手法である
  4. 正解ラベルが必要
こたえを見る

正解: 2. 分散が最大になる方向を主成分として取り出す

分散が最大になる方向を主成分として取り出すのがPCAの基本です。 線形手法で、教師なし学習に分類されます。 累積寄与率を見て、データの主要な情報を保持できる主成分数を決定します。

胡桃あんず・白銀ゆきのイラスト。ボウリングでガターを出して大げさに落ち込み

この記事の関連書籍

Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。

この記事について

データサイエンティスト検定スタディが作成した教材です。運営について・記事の作り方

試験についてはこちらをご覧ください: データサイエンティスト協会 公式サイト

この記事を共有