ロバスト性評価（AIの頑健性）

AI Robustness Evaluation ろばすとせいひょうか

高頻出 ⚪ 旧用語テクノロジ系新しい技術

意味・解説

入力データにノイズや微細な改変（敵対的サンプル等）が加わっても、AIモデルが正しく、あるいは安定して予測を維持できる能力を測定すること。

AIの「打たれ強さ」を数値化する。特定のデータに過学習していないか、あるいは敵対的攻撃によって簡単に誤判断を起こさないかを検証する安全性の重要指標。

「AIという『知能』が、現実世界の『不都合なノイズ』に対してどれだけ動じないかをテストすること」です。

1.評価方法:

入力画像に目に見えない程度の砂嵐（ノイズ）を混ぜたり、わざと紛らわしいデータを入力したりして、AIの正解率がどれだけ下がるかを確認します。

2.目的:

自動運転や医療など、一瞬の誤判断が命に関わる分野で、AIの「信頼の限界」を明らかにします。ポイントは、テストデータで100点を取ったAIでも、このロバスト性が低いと、雨の日の道路標識を誤認するなど、実社会では使い物にならないからです。

自動運転AIの安全性基準を満たすため、霧や逆光をシミュレートしたデータによるロバスト性評価を実施し、誤検知率の変化を分析した。

同義語: 頑健性評価 / ロバストネス・テスト

分類: 信頼できるAI（Trustworthy AI）