内積・ノルム・固有値の概念

機械学習に直結する線形代数の3概念。コサイン類似度とPCAの伏線を作ります。

線形代数の中で機械学習に直結する3つ、内積・ノルム・固有値の意味を理解します。

白峰 リリ(普段) 白峰 リリ

ベクトルの『内積』ってよく聞くけど、なんのために計算するの?

神楽 モニカ 先生(笑顔) 神楽 モニカ 先生

内積はベクトル同士の『類似性』を測る基本演算よ。 a·b = Σaᵢbᵢ。 結果は1つのスカラー値。

紅林 かえで(普段) 紅林 かえで

内積の幾何学的意味は a·b = |a|·|b|·cosθ (θは2ベクトルのなす角)。 同じ向きなら正、直交なら0、逆向きなら負。

藍沢 しずく(普段) 藍沢 しずく

推薦システムで似てる商品を見つけるとき、とかに使うんですかぁ?

紅林 かえで(普段) 紅林 かえで

その通り。
コサイン類似度=内積/(両ベクトルのノルムの積) で類似度を計算するの。

白峰 リリ(普段) 白峰 リリ

ノルムって何?

神楽 モニカ 先生(普段) 神楽 モニカ 先生

ノルムはベクトルの『長さ』。 ‖v‖₂ = √(v₁²+v₂²+...+vₙ²) がL2ノルム(ユークリッド距離)。 各成分の絶対値の和がL1ノルム。

紅林 かえで(普段) 紅林 かえで

L1ノルム=マンハッタン距離=Σ|vᵢ|、L2ノルム=ユークリッド距離=√Σvᵢ²。 機械学習の正則化で使うLasso(L1)/Ridge(L2)につながるの。

藍沢 しずく(しょんぼり) 藍沢 しずく

うぅ〜ん…ややこしいですぅ…

白峰 リリ(普段) 白峰 リリ

じゃあ固有値ってのは?

神楽 モニカ 先生(普段) 神楽 モニカ 先生

固有値と固有ベクトルは、行列Aに対して Av = λv が成り立つときのλ(固有値)とv(固有ベクトル)。 行列の本質的な変換方向を表すのよ。

紅林 かえで(普段) 紅林 かえで

機械学習ではPCA(主成分分析)に直結する重要概念。 固有値が大きい固有ベクトル方向にデータが広がっているの。 詳細はML編で。

藍沢 しずく(普段) 藍沢 しずく

なんとなく分かったような…?

神楽 モニカ 先生(笑顔) 神楽 モニカ 先生

DS検定★では深い計算は不要。
意味と用途を押さえれば十分よ。

確認クイズ

ベクトル a=(3, 4) のL2ノルムはいくらか。

  1. 7
  2. 5
  3. 12
  4. 25
こたえを見る

正解: 2. 5

5。 L2ノルム = √(3² + 4²) = √(9+16) = √25 = 5。 これは原点から(3,4)までの直線距離(ユークリッド距離)です。

🔖 この記事の関連書籍

Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。