説明可能なAI (XAI)
意味・解説
AIがその判断や予測に至った根拠を、人間が理解できるように説明する技術や手法の総称。
ディープラーニングなどの「ブラックボックス化」したAIに対する解決策。どの特徴量が判断に寄与したかを視覚化したり、論理的なルールを提示したりする。医療、金融、自動運転など、高い安全性や公平性が求められる分野で、AIの信頼性を担保するために不可欠な技術。
くわしく
「AIに『どうしてその答えになったの？』と聞いたときに、納得できる理由を答えてもらう仕組み」のことです。
1.社会的背景:
「AIがそう言ったから」だけでは、不採用の理由や病気の診断に納得できないため、透明性が求められています。
2.手法:
判断に影響した画像の部分を光らせる「熱マップ」や、判断根拠を言葉にする技術などがあります。
例文
融資審査AIにXAIを導入し、審査に落ちた顧客に対して具体的な理由を提示できるようにした。
同義語: 解釈可能なAI, XAI
対義語: ブラックボックスAI
分類: 人工知能の課題解決