「攻撃成功率0.00%」を鵜呑みにしてはいけない理由
Claude Codeの「Auto Mode」という機能について、Anthropicは「攻撃成功率0.00%」という評価をつけて、標準の設定にしていました。ところが、その12日後、セキュリティの専門家によって、60〜80%の確率で突破されてしまった、という報告がありました。
安全のための判断が、そのまま抜け道になっていた
ここには、皮肉な構造がありました。この機能は、安全のために、怪しい実行ファイルの実行を拒否するようになっています。ところが、拒否した代わりに、AI自身が別の方法でコードを書いて対応しようとする。そのとき書かれたコードが、攻撃者があらかじめ仕込んでおいたファイルを、そのまま読み込んでしまう。安全のための判断そのものが、新しい抜け道になってしまっていた、という構造です。
これが教えてくれること
どれだけ大手の開発元が「安全」と評価していても、その評価をそのまま信じきってはいけない、ということです。
安全性の評価は、その時点での検証結果に過ぎません。新しい抜け道は、後から見つかることがあります。特に、一つの対策で塞いだつもりの穴が、その対策自体によって別の場所に空いてしまう、というのは、セキュリティの世界ではよくある構造です。今回のケースも、「危険なものを拒否する」という、一見すると正しい判断が、結果として別の入口を作ってしまいました。
経営者にとっての意味
AIツールを導入するとき、開発元の安全性評価は、あくまで参考情報の一つとして受け止めてください。それを鵜呑みにして、確認や見直しの手間を省いてしまうのは危険です。
特に、重要な情報を扱う場面や、外部からアクセスされる可能性がある環境でAIを動かす場合は、開発元の評価に加えて、自社でも定期的に見直す仕組みを持っておくことが望ましいです。「安全と発表されたから、もう安心」という受け止め方ではなく、「発表された時点での安全性であって、今も同じとは限らない」という受け止め方に、意識を切り替えておく必要があります。
実務での備え
難しいことをする必要はありません。取り返しのつかない操作は自動で止める設定にしておくこと、AIに与える権限は必要最小限にとどめておくこと。以前書いたこうした基本の備えは、今回のような「想定外の抜け道」が見つかった場合にも、被害を小さく抑える助けになります。
どれだけ優秀なAIでも、開発元の評価だけに頼らず、自社の側でも最低限の防御線を持っておく。この二重の備えが、結果的に一番安心できる運用につながります。
まとめ
「攻撃成功率0.00%」という評価は、あくまでその時点での検証結果であり、絶対の保証ではありません。安全のための判断が、思わぬ形で新しい抜け道になることもあります。開発元の評価を鵜呑みにせず、自社でも確認し続ける姿勢と、最低限の防御線を持っておくこと。この二つが、AIを安心して使い続けるための土台になります。
今回話してきた、AIツールの安全性について、開発元の発表をそのまま信じていいのか不安なことで困っていませんか？もしそうなら、自社の防御線を一度見直すところから始めてみてください。AI導入・業務自動化支援では、その見直しから一緒にやります。まずは60分の無料個別相談へ。
あわせて読みたい
