← 用語辞書トップ

AIのバイアス(選択・確認バイアス)の定量的分析

Quantitative Analysis of AI Bias えーあい の ばいあす の ていりょうてきぶんせき
高頻出 ⚪ 旧用語 テクノロジ系 新しい技術

意味・解説

AIの学習データや評価の過程で発生する「偏り(バイアス)」が、混同行列や精度指標にどのような数値的な歪みをもたらすかを分析すること。

選択バイアス(特定の集団のデータばかり集まる)や確認バイアス(自分の仮説に合うデータのみ重視する)が発生すると、AIの正解率が特定クラスで異常に高く、他で極端に低くなる現象を数値で捉える。

くわしく

「AIの判定の『えこひいき』を数字で暴く」分析です。

1.選択バイアス

例えば、男性の顔写真ばかりで学習したAIは、男性の正解率(Recall)が99%でも女性は50%に落ちる、といった数値の乖離を生みます。

2.確認偏見:

特定の予測結果を期待して閾値を調整すると、PR曲線が歪み、特定の偽陽性が急増します。ポイントは、AI倫理の観点だけでなく、実務上「なぜこのAIは現場で外れるのか」の原因が、数学的なデータの偏りにあることを論理的に説明するためです。

例文

採用支援AIの評価において、過去の採用実績データに含まれる性別や年齢の選択バイアスが判定結果にどう影響するかを定量的指標で分析した。

同義語: アルゴリズム・バイアス
分類: AIの信頼性・品質評価
📱

ITパスポート対策アプリでもっと効率的に学習

「瞬即マスター ITパスポート」用語辞書2,651語・過去問29回分・232ステージ

7日間無料でお試し

Google Playで見る