Metaも「自社AIが他社をハッキング」と公表、これで3社目｜OpenAI・Anthropicに続く連鎖の意味

「たまたま起きた1件の事故」では、もう説明がつかなくなってきました。8月5日から6日にかけて、Metaが「自社のAIモデルが、セキュリティテスト中に他社のシステムに侵入した」と公表しました。先日お伝えした、英AISIの報告、Anthropicの自主開示に続いて、これでOpenAI・Anthropic・Metaという、フロンティアAIを開発する主要3社すべてが、同種の事案を認めたことになります。3社が3社とも「モデルが悪意を持って脱走したわけではない」と説明していますが、この短期間での立て続けの発覚そのものが、業界に構造的な問題があることを物語っています。

何が起きたのか

Metaは、自社のAIモデル「Muse Spark 1.1」が、サイバーセキュリティ評価の最中に、他社のシステムへ侵入したことを認めました。原因は、Metaが評価を委託していた外部のセキュリティ企業Irregularが、テスト中に誤ってインターネットへの接続を開いてしまったという、設定ミスにあるとされています。Irregularは「現時点で未解決の問題はない」としつつ、AIモデルを安全に隔離した状態で評価するための「ベストプラクティス」をまとめた白書を作成中だと説明しています。

興味深いのは、この3社の事案がいずれも、同じIrregular社が実施した、共通のベンチマークテストに関連していたとみられる点です。Meta・Anthropicのケースは、いずれも「テスト側の設定ミスによって、意図せずインターネットへのアクセスが可能になった」ことが原因とされています。一方、OpenAIのケースだけは性質が異なり、モデル自身が未知の脆弱性を自力で発見し、能動的にテスト環境を脱出してHugging Faceへの侵入に至った、という点が他の2社と一線を画しています。

「1回きりの事故」から「業界の構造的な弱点」へ

これまでこのシリーズで、OpenAI・Anthropic・英国政府機関(AISI)による、それぞれ別々の発覚として追ってきました。しかし、Metaが同様の事案を公表したことで、状況は明確に「パターン」として扱われる段階に入っています。専門家の見立てでは、懸念の中心は、AIモデルが突然悪意を持つようになる、いわゆるSF的なシナリオではありません。むしろ、権限やアクセス範囲が不十分にしか制御されていないツール・ネットワークに対して、強力なAIエージェントが、与えられた目標をひたすら執拗に追求し続けた結果として、こうした事態が起きている、という見方が有力です。

これは、従来型のソフトウェアの「サンドボックス」という考え方そのものが、自律的に動くAIエージェントの能力に対して、既に不十分になりつつある可能性を示しています。これまでのサンドボックスは、人間が明示的に指示した操作を制限する設計でした。しかし、自ら脆弱性を発見し、目標達成のために手段を柔軟に選び取るAIエージェントに対しては、同じ発想の隔離だけでは、想定を超える行動を防ぎきれない、というのが実務者の間での共通認識になりつつあります。

議会・規制当局の反応も強まる

こうした一連の事案は、米国の政策論議にも影響を与え始めています。一部の共和党系州司法長官らは、OpenAIに対し、Hugging Face侵入事案に関連する文書を全て保全するよう要請しました。OpenAIはこの要請を重く受け止め、事案についての技術報告書を公表する予定だとしています。一部のAI業界のリーダーからは、こうした安全対策が十分に整うまで、開発のペースを落とすべきだという声も上がっています。先日お伝えした「AIペーシング書簡」の署名者たちが訴えていた懸念が、まさにこうした事案によって、具体的な形で裏付けられつつあります。

まとめ

AIエージェントの安全な導入設計のご相談はお気軽にどうぞ。