キャリブレーション(AIの確率較正)
意味・解説
AIが算出した「予測確率(自信の度合い)」が、実際の「正解率(事実)」とどの程度一致しているかを調整すること。
例えば、AIが『80%の確率で陽性』と判定したデータの集合において、実際に80%が陽性であれば『較正されている』と言える。確信度マップの精度を裏支えする技術。
くわしく
「AIの『自信満々さ』と『実際の実力』のズレを直すこと」です。
1.背景:
最近の深層学習モデルは、実際よりも自信過剰(例:本当は60%の確信しかないのに99%と答える)になりやすい傾向があります。
2.手法:
予測値を数学的に補正し、AIの出す「確率」という数字を、人間が信頼できる判断材料(期待値)へと変換します。ポイントは、自動運転や医療診断では『たぶん大丈夫』の『たぶん』が何%なのかが正確でないと、安全のためのしきい値を正しく設定できないからです。
例文
自動運転システムの安全性を担保するため、物体検知AIの出力確率に対してキャリブレーションを行い、リスク判定の精度を高めた。
同義語: 確率較正 / スコア較正
分類: AIの信頼性評価手法