エピステミック不確実性(モデルの不確実性)
意味・解説
AIモデルが「まだそのデータについて十分に学習していない」ために生じる不確実性のこと。データを増やすことで減らすことが可能。
偶然的な不確実性(アレイトリック:データのノイズ)とは異なり、モデルの知識不足に起因する。不確実性定量化 (UQ)の重要な要素であり、予測の「自信のなさ」を区別するために用いられる。
くわしく
「AI(人工知能)が『見たことがないから分からない』と言っている、知識の空白地帯」です。
1.性質:
データの「量」や「質」を改善すれば、この不確実性は解消できます。
2.活用:
医療AIなどが「この画像は初めて見るパターンなので、私の判断は信じないでください」と警告を出す際に、この数値を算出します。ポイントは、AIが『確信を持って間違える』のを防ぎ、人間に判断を仰ぐべきタイミングを数学的に特定できるからです。
例文
自動運転システムにおいて、雪道の走行データが不足しているためにエピステミック不確実性が高まったことを検知し、システムが運転手に制御を交代した。
同義語: 知識的不確実性 / モデルの不確実性
分類: AIの信頼性と安全設計