個人レベルの公平性
意味・解説
AIの判断において、「似た属性を持つ個人は、似たように扱われるべきである」という公平性の考え方。
AI倫理における公平性指標の一つ。「近接性に基づく公平性」とも呼ばれる。特定のグループ(性別や人種など)全体での統計的な平等を目指す「集団レベルの公平性」に対し、個々のデータ間の距離(似ている度合い)に着目し、類似した個人間で判定結果が大きく異ならないことを保証しようとするアプローチ。
くわしく
「双子の兄弟のように似た状況の二人が、AIによって全く違う結果を突きつけられないようにする」という考え方です。
1.仕組み:
数学的に「個人間の距離」を定義し、その距離が近い(=似ている)二人の出力(判定結果)もまた近くならなければならない、という制約をAIに課します。
2.必要性:
グループ全体で合格率が同じでも、個別のケースで不当な逆転現象が起きる「不合理な判断」を防ぐために重要視されています。
例文
保険料の算出AIにおいて、居住地以外がほぼ同じ条件の加入者間で極端な価格差が出ないよう、個人レベルの公平性を検証した。
同義語: 近接性に基づく公平性
分類: アルゴリズムの公正性