レッドチーミング
意味・解説
組織のセキュリティ対策の有効性を検証するため、攻撃者（レッドチーム）の立場から、実際の攻撃手法を用いてシステムや組織に擬似的な攻撃を仕掛けるテスト手法。
くわしく
「身内による『本気の泥棒ごっこ』」です。
1.役割：
攻撃役の『レッドチーム』が、防御役の『ブルーチーム（社内のセキュリティ担当）』に知らせずに、あらゆる手を使って侵入を試みます。
2.目的：
AIに対する『ジェイルブレイク』や、社員へのフィッシングメールなど、理屈上の守りが現場で本当に機能するかを暴き出します。ポイントは、どんなに高価なツールを導入しても、人間の『うっかり』やAIの『言葉の穴』という隙間を突く攻撃は、実際にやってみないと防げないことが証明されているからです。
例文
生成AIのチャットボットを公開する前に、専門家によるレッドチーミングを実施し、不適切な情報を出力させるプロンプトが存在しないか徹底的に調査した。
同義語: 擬似攻撃演習
分類: レジリエンス評価手法