反事実的説明
意味・解説
「もし〜だったら、結果は〜になっていた」という形式で、AIの判断の根拠を説明する手法。
説明可能なAI (XAI)（XAI）のアプローチの一つ。ある入力データに対し、「どの項目を、どれだけ変えれば、AIの判定が覆るか」を示す。例えばローン審査に落ちた人に対し、「年収があと50万円高ければ合格でした」と具体的に教えること。
くわしく
「AIという『ブラックボックス』に、『何をしたら、答えが変わったの？』と聞き出す技術」です。
1.メリット:
専門知識がないユーザーでも、「次は何を頑張ればいいか」という具体的な改善行動を理解しやすい点が画期的です。
2.特徴:
AIの複雑な数式を解説するのではなく、結果を変えるために必要な『最小限の変化』に焦点を当てます。
例文
AIによる採用選考の透明性を高めるため、不採用となった候補者に対して反事実的説明を自動生成する機能を検討した。
同義語: 対抗事実的説明
分類: 機械学習の解釈性