大域的な説明(グローバル・エクスプラネーション)
意味・解説
AIモデル全体が、どのようなルールや特徴に基づいて判断を下しているのか、その「全体的な傾向」を明らかにする説明手法。
個別の予測を説明する「局所的な説明」に対し、モデル全体の変数重要度や意思決定の構造を提示する。モデルの透明性と公平性を担保するためのXAIの根幹をなす。
くわしく
「AIという『ブラックボックス』の、一人ひとりの判断ではなく『基本的な性格(ポリシー)』を解き明かすこと」です。
1.局所的との違い:
LIMEが「Aさんの融資否決の理由」を語るのに対し、大域的な説明は「このAIは、全体として年収を最も重視している」といったモデルの本質的な癖を示します。
2.手法:
特徴量重要度の集計や、モデル全体を近似する「サロゲートモデル」の構築など。ポイントは、個別の説明だけでは見落としてしまう『組織的な偏見(差別的な傾向)』がモデル全体に潜んでいないかを監視できるからです。
例文
採用AIの大域的な説明を行った結果、モデル全体として『卒業年度』が予測に与える影響が不当に高いことが判明し、アルゴリズムを修正した。
同義語: 包括的な説明 / モデル全域の説明
分類: AIの説明可能性(Interpretability)