偏見
意味・解説
AIの学習データそのものに人間の偏見が含まれていたり、サンプリングが不十分であったりすることで発生する。人種、性別、年齢、地域などに基づいた差別的な判断をAIが学習してしまうことが社会的な課題。公平性（フェアネス）を担保するための「倫理的なAI開発」が求められている。
くわしく
「AIという『鏡』が、世の中にある悪いクセや偏った見方までそっくりそのまま写し取ってしまうこと」です。
1.原因:
学習データに「過去の不公平な採用結果」が含まれていれば、AIも不当な選別を正解として覚えてしまいます。
2.社会的リスク:
犯罪予測や融資審査、医療診断などで偏見が入り込むと、取り返しのつかない不平等を生みます。
3.対策:
データの偏りを修正したり、判断プロセスを監視したりする「AIガバナンス」が必要です。
例文
人事採用AIに性別による偏見が含まれていないか、検証用データを用いてアルゴリズムの公平性をテストした。
同義語: AIバイアス, 偏り
対義語: 公平性, 不偏性
分類: 機械学習の課題 / 倫理