アンカー説明 (Anchors)
意味・解説
AIの特定の予測結果に対し、「この条件(ルール)さえ満たしていれば、他の項目がどうであれ予測はほぼ変わらない」という決定的な根拠を提示する手法。
LIMEが「周辺の近似」を語るのに対し、アンカーは「結論を固定(アンカー)する十分条件」をIF-THENルールで示す。非常に精度(適合率)が高く、人間が直感的に理解しやすいXAIの一種。
くわしく
「AIの判断を揺るがせないための『動かぬ証拠(錨:いかり)』を特定すること」です。
1.仕組み:
『もし年収が500万円以上で、かつ勤続が3年以上なら、他の趣味や住所が何であっても、AIは95%の確率で融資を承認する』といった、結論を決定づける最小限の条件セットを提示します。
2.メリット:
複雑な計算式ではなく、人間が納得しやすいシンプルな「ルール」として説明されるため、実務での運用(ルールの妥当性チェック)が容易です。ポイントは、AIをブラックボックスにせず、どのような『絶対条件』で動いているかを把握することで、信頼性を担保できるからです。
例文
スパムメール検知AIにアンカー説明を適用したところ、『特定のURLが含まれている』という条件が、判定を決定づける強力なアンカーになっていることが分かった。
同義語: アンカーズ / 規則ベースの説明, アンカーズ / ルールベースの説明
分類: AIの説明可能性(Explainability)