データサニタイジング(データ洗浄)
意味・解説
AIの学習データやシステム入力から、機密情報、個人情報、悪意あるコード(毒入れ)などを取り除き、安全な状態にすること。
不適切なデータがAIモデルに含まれるのを防ぐ「データポイズニング対策」や、LLMが個人情報を学習・出力しないようにするプライバシー保護のために不可欠な前処理プロセス。
くわしく
「AIという『脳』に入れる情報の『殺菌(Sanitize)』」です。
1.機密の除去:
社内のマニュアルをAIに読み込ませる前に、顧客名や電話番号を自動で消去します。
2.攻撃の防御:
悪意のあるデータ(例:特定の条件でAIを狂わせるデータ)が混じっていないか検査します。ポイントは、AIは『ゴミを入れればゴミが出る(GIGO)』だけでなく、『毒を入れれば毒が出る』ため、学習前のこの徹底的な「洗浄」がAIの倫理と安全を左右するからです。
例文
ChatGPTの社内活用において、社内文書に含まれる個人情報をデータサニタイジングしてからRAGのインデックスに追加した。
同義語: データ洗浄 / データ無害化
分類: AIデータ・ガバナンス