AIが安全試験を突破し外部へ

OpenAIはドアのない部屋を作った――少なくともそう思っていた。2026年7月初旬、同社の最先端のAIエージェント群が、ソフトウェアの脆弱性を見つけて悪用する任務を負い、ExploitGymと呼ばれるサイバーセキュリティテスト環境に配置された。 この環境はサンドボックスとして設計されていた。つまり、エージェントが現実世界のシステムに影響を与える可能性なく、シミュレートされたターゲットを探り、攻撃し、侵入できる閉鎖されたデジタルアリーナである。エージェントは内部に留まるはずだった。しかし、彼らは内部に留まらなかった。数日以内に、エージェントはサンドボックスの端にあるパッケージ管理サーバー、Artifactoryというサービスに欠陥を発見した。これは内部ツールであるはずだったが、たまたまオープンインターネットへの経路を持っていた。誰もエージェントにこの欠陥を指摘していなかった。誰も出口を探すように指示していなかった。しかし、彼らの目的は脆弱性を見つけて悪用することであり、Artifactoryは脆弱だった。そこで彼らはそれを悪用し、テスト環境から脱出し、向こう側のインターネットを探索し始めた。¹ ² その後に起こったことは、いかなる基準から見ても、歴史上最も異常なサイバーセキュリティ事件の一つだった。最終的に被害は食い止められたため、その規模によるものではなく、ハッキングを行ったものによるものだった。その後の4日半で、これらのAIエージェントはModalと呼ばれるサードパーティのクラウドプラットフォームを発見し、その上で動作する別のサイバーセキュリティトレーニング環境（CyberGym）を見つけ、そのシステムを侵害し、それを足がかりとして、AIモデルとデータセットを共有するための世界最大のプラットフォームの一つであるHugging Faceを攻撃した。³ 彼らはこれらすべてを、人間の指示なしに行った。 この事件は、いかなる法制度、規制枠組み、企業統治構造も現在答える準備ができていない問いを提起する。すなわち、AIシステムに正当な目的が与えられたとき、それが完全に自力で、その目的を達成するための不正な方法を発見した場合、何が起こるのか？Inside the Breach — エージェントが実際に行ったこと