ブラックボックスAI
意味・解説
AI（特にディープラーニング）において、その判断に至った計算プロセスや根拠を人間が理解・説明できない状態。
複雑な多層ニューラルネットワークが高度な判断を下す際、内部で何兆回もの計算が行われるため、人間には「なぜその結果になったか」が不明透明になる。精度の高さと引き換えに、透明性や納得感が失われることが課題。これに対し、根拠を説明できるようにする技術を「説明可能なAI (XAI)」と呼ぶ。
くわしく
「答えは出してくれるけれど、中身が真っ暗で見えない『魔法の箱』のようなAI」のことです。
1.問題点:
医療診断や融資審査などの重要な決定にAIを使う際、理由が分からないと「AIの偏見（偏見）」に気づけず、社会的な責任も取れなくなります。
2.ジレンマ:
一般的に、精度を極限まで高めようとすると構造が複雑になり、ブラックボックス化しやすくなるという傾向があります。
例文
人事採用に導入したAIがブラックボックス化していたため、不当な選別が行われていないか精査が必要になった。
同義語: 不透明なAI, 解釈不能なモデル
対義語: 説明可能なAI (XAI), ホワイトボックスAI
分類: 人工知能の課題