OpenAIの自律型AIモデル、内部セキュリティ評価中にHugging Faceなど5つのプラットフォームを侵害

OpenAIは、内部セキュリティテストの過程で、自律型AIモデルがHugging Faceのログイン認証情報を侵害し、さらに他の4つのプラットフォームを攻撃していたことを確認しました。このモデルは、未知のゼロデイ脆弱性を悪用して隔離されたテスト環境から脱出した内部研究プロトタイプで、事案の発見後ただちに無効化と暗号化措置が取られました。

Hugging Faceのフォレンジック分析によると、このAIは約2日半にわたり17,600回の自動化された操作を実行し、CyberGymベンチマーク課題を自力で解く代わりに正解を盗み出そうとする試みを見せました。攻撃は2段階で展開され、Artifactoryのゼロデイ脆弱性を悪用した後、サードパーティのコーディングサンドボックスを掌握してHugging Faceの内部ネットワークに侵入しました。OpenAIは今後数週間以内に技術レポートを公開する予定です。