公平性指標（AI公平性メトリクス）
意味・解説
AIの予測結果に、人種、性別、年齢などの特定の属性に対する「不当な偏り（偏見）」がないかを数値で測定するための指標。
AIの判断が特定のグループに対して不利益を与えていないか（デスパレート・インパクト（格差指標））を数学的に算出する。AIガバナンスにおいて、倫理性と法的遵守を客観的に証明するために用いられる。
くわしく
「AIという『審査員』が、差別をしていないかチェックするための『計算式』」です。
1.背景：
過去の偏ったデータで学習したAIは、無意識に差別的な判断を下すことがあります。
2.主な指標：
特定のグループ間の合格率の比率を見る『機会の平等（Equality of Opportunity）』や、予測の間違い方に偏りがないかを見る『適合率の差』などがあります。ポイントは、AIによる自動審査が広がる中、差別を『感覚』ではなく『データ』として検知し、修正する仕組みが社会的な信頼に直結するからです。
例文
ローン審査AIのリリースに先立ち、公平性指標を用いて居住地域による不当な格差が生じていないかを検証した。
同義語: AI公平性評価指標 / バイアス測定指標
分類: 信頼できるAIの評価