内積・ノルム・固有値の概念
機械学習に直結する線形代数の3概念。コサイン類似度とPCAの伏線を作ります。
線形代数の中で機械学習に直結する3つ、内積・ノルム・固有値の意味を理解します。
胡桃 あんず
ベクトルの『内積』ってよく聞くけど、なんのために計算するの?
若葉 みどり 先生
内積はベクトル同士の『類似性』を測る基本演算よ。 a·b = Σaᵢbᵢ。 結果は1つのスカラー値。
白銀 ゆき
内積の幾何学的意味は a·b = |a|·|b|·cosθ (θは2ベクトルのなす角)。 同じ向きなら正、直交なら0、逆向きなら負。
桜井 もも
推薦システムで似てる商品を見つけるとき、とかに使うんですかぁ?
白銀 ゆき
その通り。
コサイン類似度=内積/(両ベクトルのノルムの積) で類似度を計算するの。
胡桃 あんず
ノルムって何?
若葉 みどり 先生
ノルムはベクトルの『長さ』。 ‖v‖₂ = √(v₁²+v₂²+...+vₙ²) がL2ノルム(ユークリッド距離)。 各成分の絶対値の和がL1ノルム。
白銀 ゆき
L1ノルム=マンハッタン距離=Σ|vᵢ|、L2ノルム=ユークリッド距離=√Σvᵢ²。 機械学習の正則化で使うLasso(L1)/Ridge(L2)につながるの。
桜井 もも
うぅ〜ん…ややこしいです…
胡桃 あんず
じゃあ固有値ってのは?
若葉 みどり 先生
固有値と固有ベクトルは、行列Aに対して Av = λv が成り立つときのλ(固有値)とv(固有ベクトル)。 行列の本質的な変換方向を表すのよ。
白銀 ゆき
機械学習ではPCA(主成分分析)に直結する重要概念。 固有値が大きい固有ベクトル方向にデータが広がっているの。 詳細はML編で。
桜井 もも
なんとなく分かったような…?
若葉 みどり 先生
DS検定★では深い計算は不要。
意味と用途を押さえれば十分よ。
確認クイズ
ベクトル a=(3, 4) のL2ノルムはいくらか。
- 7
- 5
- 12
- 25
こたえを見る
正解: 2. 5
5。 L2ノルム = √(3² + 4²) = √(9+16) = √25 = 5。 これは原点から(3,4)までの直線距離(ユークリッド距離)です。
この記事の関連書籍
Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。
この記事について
データサイエンティスト検定スタディが作成した教材です。運営について・記事の作り方
試験についてはこちらをご覧ください: データサイエンティスト協会 公式サイト