SHAP・LIME と 説明可能AI

ブラックボックスなMLモデルの判断根拠を可視化、SHAPとLIME。 AI倫理にも直結。

白峰 リリ

深層学習って『なんでそう判定したのか』が分からないよね?

神楽 モニカ 先生

そう、ブラックボックス?
問題。 これに対処するのが説明可能AI?
(XAI?
)。 代表手法がSHAP?
とLIME?
。

紅林 かえで

SHAP?
=SHapley Additive exPlanations?
。 ゲーム理論のシャープレイ値?
を使い、各特徴量が予測にどれだけ寄与したかを定量化する。

藍沢 しずく

シャープレイ値?

紅林 かえで

協力ゲーム理論で『各プレイヤーの貢献度を公平に配分する』ための計算方法。 これをML予測に応用したのがSHAPなの。

白峰 リリ

LIME?
は?

神楽 モニカ 先生

LIME?
=Local Interpretable Model-agnostic Explanations。 着目する1つの予測のまわりだけ、シンプルな線形モデルで近似することで局所的に説明する。

紅林 かえで

違いは『SHAPは厳密な貢献度配分』『LIMEは局所近似による解釈』。 SHAPの方が理論的に厳密だが計算が重い、LIMEは速いが理論的根拠は弱め。

藍沢 しずく

実務ではどっちを使うんですかぁ?

神楽 モニカ 先生

今の実務では{kw('SHAP')}が主流ね。 線形回帰・決定木・GBDTなど幅広く使えて、{kw('SHAP値')}による特徴量重要度はモデル解釈に欠かせないのよ。

白峰 リリ

なんでXAIってそんなに大事なの?

紅林 かえで

説明責任?
を果たすためよ。 医療・採用・金融みたいな重要な判断で『AIがそう言ったから』では通らないでしょ。 EU AI Actや国内ガイドラインでも、高リスクAIには説明可能性が求められるの。

紅林 かえで

DS検定★では『SHAP/LIMEは説明可能AI』『SHAP=シャープレイ値』『LIME=局所近似』を押さえておきましょう。

import shap
from sklearn.ensemble import RandomForestClassifier

model = RandomForestClassifier().fit(X_train, y_train)

# SHAP値の計算
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_test)

# 全体の特徴量重要度をプロット
shap.summary_plot(shap_values, X_test)

# 個別予測の解釈 (1サンプル目)
shap.force_plot(explainer.expected_value, shap_values[0], X_test.iloc[0])