モデルの解釈性

Model Interpretability / XAI もでるのはいしゃくせい

高頻出 ⚪ 旧用語テクノロジ系新しい技術

意味・解説

AI（モデル）がその判断に至った根拠やプロセスを、人間が理解・説明できる度合い。説明可能なAI (XAI)（XAI）。

深層学習（ディープラーニング）などの複雑なAIは「ブラックボックス」になりやすく、なぜその結果になったか不明確なことが課題となっている。医療診断や融資審査などの重要な決定にAIを使う際、納得感と責任を担保するために「解釈性」を高める技術が求められている。

「AI（人工知能）の『なんとなく』という勘を、人間の言葉で説明させる能力」のことです。

1.技術:

どの入力データ（特徴量）が判断に大きく影響したかを可視化する手法（LIMEやSHAPなど）があります。

2.重要性:

理由が分からないAIの判断は、偏見（偏見）が含まれていても気づけません。解釈性はAIの「公平性」や「安全性」を守るための砦となります。

医療現場へのAI導入において、誤診を防ぐためにモデルの解釈性を重視し、病変と判断した根拠を画像上に強調表示する仕組みを整えた。

同義語: モデルの透明性, 説明可能性

対義語: ブラックボックスモデル

分類: 信頼できるAI