SHAP

LIME (Local Interpretable Model-agnostic Explanations) / SHAP (SHapley Additive exPlanations) らいむ / しゃっぷ

高頻出 ⚪ 旧用語テクノロジ系新しい技術

意味・解説

ゲーム理論に基づき、各特徴量の貢献度を公平に算出する説明手法。

XAI（説明可能なAI）を実現するための代表的なアルゴリズム。LIMEは「特定のデータ近傍」を近似して説明し、SHAPは「ゲーム理論」を用いて各特徴量の貢献度を公平に算出する。

「AIの判断理由を『見える化』する分析ツール」です。

1.LIME：

複雑なモデル全体ではなく、知りたい『その一例』の周辺だけを単純なモデルで真似して、『この判断にはこの要素が効いた』と説明します。

2.SHAP：

各要素が協力して答えを出したと考え、それぞれの貢献度（重要度）を数学的に厳密に割り振ります。ポイントは、AIが『不採用』や『病気』と判定した際、その理由が分からなければ人間は納得できず、信頼して使えないからです。

ローン審査AIの判断根拠を透明化するため、SHAPを用いて各顧客の属性が審査結果に与えた影響を可視化した。

同義語: 解釈可能モデル / 寄与度分析

分類: 説明可能なAI（XAI）の具体的アルゴリズム