特徴量寄与度プロット(SHAP/LIMEプロット)
意味・解説
AIの予測において、各入力データ(特徴量)がどれだけ結果に影響を与えたかを、グラフや図で視覚化したもの。
くわしく
「AIの判断の『内訳書』をグラフにしたもの」です。
1.横棒グラフの長さ:
棒が長いほど、その要素が判断に強く影響したことを示します。
2.方向:
中心線より右側(またはプラス側)なら『合格・正解』への貢献、左側なら『不合格・不正解』への貢献といった具合に分かれます。ポイントは、数値の羅列よりもグラフ化(プロット)することで、『年収が一番の決め手だったが、勤続年数の短さがマイナスに働いた』といったストーリーを瞬時に把握できるからです。
例文
医療診断AIの信頼性を説明するため、診断結果と共に特徴量寄与度プロットを提示し、どの症状が判定の決め手となったかを医師に示した。
同義語: 特徴量重要度グラフ / 寄与度可視化
分類: 説明可能なAI(XAI)の提示手法