過学習・未学習とバイアス・バリアンス

機械学習の2大敵を、バイアス・バリアンス分解で根本理解。対策5パターンも紹介します。

機械学習の最大の敵、過学習と未学習。バイアス・バリアンス分解で理解します。

胡桃 あんず(しょんぼり) 胡桃 あんず

訓練データだと99%正解なのに、テストだと60%しかなかったんだけど…なんで?

若葉 みどり 先生(普段) 若葉 みどり 先生

それは典型的な過学習(overfitting)。 モデルが訓練データの細部や偶然のノイズまで覚え込んでしまい、未知データに対応できなくなる現象よ。

白銀 ゆき(普段) 白銀 ゆき

反対に、未学習(underfitting)は『訓練データもテストデータも精度が悪い』状態。 モデルがデータのパターンを十分に捉えられていない。

桜井 もも(普段) 桜井 もも

どっちも困りますねぇ…見分け方ってあるんですかぁ?

白銀 ゆき(普段) 白銀 ゆき

訓練精度↑↑でテスト精度↓なら過学習。 訓練もテストも精度↓なら未学習。 両方の精度を比べるのがポイントね。

胡桃 あんず(普段) 胡桃 あんず

じゃあ過学習ってどうやって防ぐの?

若葉 みどり 先生(普段) 若葉 みどり 先生

対策は (1)データを増やす、(2)モデルを単純にする、(3)正則化を入れる、(4)交差検証で性能を確認、(5)早期打ち切り(Early Stopping)、など。

白銀 ゆき(普段) 白銀 ゆき

その背景にある理論がバイアス・バリアンス分解。 予測誤差は『バイアス²+バリアンス+ノイズ』に分解できる。 バイアス=モデルの単純さによる誤差、バリアンス=訓練データへの過敏さによる誤差。

桜井 もも(普段) 桜井 もも

両方下げられたら一番なんですけどぉ…

若葉 みどり 先生(普段) 若葉 みどり 先生

バイアス・バリアンスのトレードオフがあるの。 モデルを複雑にするとバイアスは下がるがバリアンスが上がる。 両者のバランスがいい点を探すのが学習の目標。

胡桃 あんず(笑い) 胡桃 あんず

要は、過学習=バリアンス過大、未学習=バイアス過大、ってこと?

白銀 ゆき(普段) 白銀 ゆき

その理解でばっちり。 補足すると、DS検定では『これは過学習か未学習か』を判断する問題と、『バイアス・バリアンスのトレードオフ』の概念問題が頻出ですよ。

確認クイズ

訓練データでの精度95%、テストデータでの精度60%という結果が出た。最も考えられる状態はどれか。

  1. 未学習(underfitting)
  2. 過学習(overfitting)
  3. 汎化性能が良好
  4. データリークが発生
こたえを見る

正解: 2. 過学習(overfitting)

過学習(overfitting)です。 訓練精度↑↑、テスト精度↓ という典型的な過学習パターン。 モデルが訓練データの細部やノイズまで覚え込み、未知データに汎化できていません。

胡桃あんず・若葉みどり先生のイラスト。自信満々で答えたら外れて照れ笑い

この記事の関連書籍

Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。

この記事について

データサイエンティスト検定スタディが作成した教材です。運営について・記事の作り方

試験についてはこちらをご覧ください: データサイエンティスト協会 公式サイト

この記事を共有