LIME(局所的で解釈可能なモデル非依存の説明)
意味・解説
AIの特定の予測結果について、そのデータの「周辺」に限定した単純なモデル(線形モデル等)を構築することで、判断の根拠を説明する手法。
くわしく
「AIという『複雑な迷宮』全体を地図にするのではなく、今自分が立っている『周辺の10メートル』だけを、人間にも分かる簡単な地図(直線)で描き出すこと」です。
1.仕組み:
説明したいデータの周りに、少しだけ値をずらした架空のデータをたくさん作り、それらをAIがどう判定するかを観察します。
2.解釈:
その小さな範囲内だけで機能する「簡易的なものさし」を作ることで、『この人の場合、年齢が1歳上がれば、承認率がこれだけ上がる』といった具体的な重み付けを提示します。ポイントは、AIのロジックがどんなに複雑でも、この手法を使えば『今回の判断に限っては、これが理由です』と誰にでも納得感のある説明(XAI)ができるからです。
例文
画像認識AIが写真を『犬』と判定した理由をLIMEで解析したところ、AIが犬の顔ではなく『首輪』という局所的な特徴を根拠に判断していたことが分かった。
同義語: 局所代理モデル / ライム
分類: AIの解釈性と説明可能性