解釈性スコア(インタープリタビリティ・スコア)
意味・解説
AIが出力した判断根拠の説明が、人間にとってどれだけ理解しやすく、実用的であるかを定量的に評価する指標。
説明の「忠実度」がAIモデルへの正確さを示すのに対し、解釈性スコアは「人間への伝わりやすさ」に焦点を当てる。項目の少なさ(簡潔さ)や、直感との整合性などで算出される。
くわしく
「AIの『言い訳』が、専門家でない一般の人にとっても『なるほど!』と思える内容かどうかを採点すること」です。
1.評価軸:
説明に使われる単語の数(少なすぎず多すぎず)、専門用語の少なさ、そしてその説明を聞いた後に人間が「次はこのアクションを取ればいいんだな」と正しく判断できるか(認知的負荷の低さ)で決まります。
2.トレードオフ:
AIの内部ロジックを100%正確に伝えようとすると(高忠実度)、説明は複雑になり、解釈性スコアは下がります。ポイントは、説明可能なAI (XAI)の最終的なゴールは、人間がその説明を信じて「意思決定」に使えることにあるからです。
例文
カスタマーセンターの自動回答AIにXAIを導入する際、顧客が納得感を抱きやすいよう、解釈性スコアが高い説明ルールを優先して採用した。
同義語: 解釈可能性の指標 / 理解容易性スコア
分類: AIの信頼性と人間中心の設計(HCAI)