不確実性定量化 (UQ)

UQ Uncertainty Quantification ふかくじつせいていりょうか

中頻度 ⚪ 旧用語テクノロジ系新しい技術

意味・解説

AIの予測や判断において、その結果がどれほど信頼できるか（あるいはどれほど不確実か）を数値で算出する技術。

AIが「知らないこと」を自覚させる手法。単に答えを出すだけでなく、「80%の確率でAだが、20%は確信が持てない」といった確信度を可視化することで、AIの誤判断によるリスクを管理する。

「AIに『自信のなさ』を正直に申告させる技術」です。

1.背景：

AIは分からない問題に対しても、もっともらしく答えてしまう（ハルシネーション）性質があります。

2.役割：

予測の「ばらつき」を計算し、不確実性が高い場合は「人間が最終判断する」といったワークフローを可能にします。ポイントは、自動運転や医療診断、金融取引など、一つのミスが取り返しのつかない事態を招く分野では、AIの『過信』を防ぐことが安全の絶対条件だからです。

自動運転システムの路面状況判定に不確実性定量化を導入し、AIの確信度が低い場合には即座にドライバーへ運転交代を促す仕組みを構築した。

同義語: 確信度評価 / UQ

分類: AIの信頼性・安全性評価