LIME / SHAP

LIME (Local Interpretable Model-agnostic Explanations) / SHAP (SHapley Additive exPlanations) らいむ / しゃっぷ

高頻出 ⚪ 旧用語テクノロジ系新しい技術

意味・解説

ブラックボックス化しやすいAI（機械学習モデル）の予測結果に対して、どの特徴量がどれだけ影響を与えたかを数値や図で説明するための手法。

説明可能なAI (XAI)を実現するための代表的なアルゴリズム。LIMEは「特定のデータ近傍」を近似して説明し、SHAPは「ゲーム理論」を用いて各特徴量の貢献度を公平に算出する。

「AIの判断理由を『見える化』する分析ツール」です。

1.LIME：

複雑なモデル全体ではなく、知りたい『その一例』の周辺だけを単純なモデルで真似して、『この判断にはこの要素が効いた』と説明します。

2.SHAP：

各要素が協力して答えを出したと考え、それぞれの貢献度（重要度）を数学的に厳密に割り振ります。ポイントは、AIが『不採用』や『病気』と判定した際、その理由が分からなければ人間は納得できず、信頼して使えないからです。

ローン審査AIの判断根拠を透明化するため、SHAPを用いて各顧客の属性が審査結果に与えた影響を可視化した。

同義語: 解釈可能モデル / 寄与度分析

分類: 説明可能なAI（XAI）の具体的アルゴリズム