説明の忠実度（フィデリティ）
意味・解説
AIの判断根拠を説明するモデル（LIMEやSHAPなど）が、元の複雑なAIモデル（ブラックボックス）の挙動をどれだけ正確に再現できているかを示す指標。
説明モデルが「もっともらしい説明」をしていても、それが元のAIのロジックとズレていれば意味がない。高い忠実度（High Fidelity）は、説明が元のAIの真の判断基準を反映している信頼の証となる。
くわしく
「AIの『翻訳者（説明モデル）』が、本人の本心をどれだけ正確に伝えているかという誠実さの度合い」です。
1.仕組み:
複雑なAI $f(x)$ と、それを説明する簡略モデル $g(x)$ の予測値が、どれだけ一致するかを数値化します。
2.リスク:
忠実度が低いと、AIが実は『人種』で判断しているのに、説明モデルが勝手に『年収』が理由だと嘘の報告（ハルシネーション的な説明）をしてしまう恐れがあります。ポイントは、説明可能なAI (XAI)の価値は、この忠実度が担保されて初めて成立するからです。
例文
医療診断AIの説明モデルを導入する際、説明の忠実度を検証したところ、一部の境界線上のデータで元のモデルと異なる根拠を提示していることが判明した。
同義語: 記述的忠実度 / 忠実性
分類: AIの信頼性と説明可能性の評価