OpenAIのAIモデルがゼロデイ悪用、Hugging Faceに侵入する異例の事態

　OpenAIは7月21日、同社製AIモデルのサイバーセキュリティ性能評価テスト中に、AIエージェントがHugging Faceのサーバーへ侵入してしまう事案が発生したと明らかにした。

　この事案に関しては、Hugging Faceが7月16日、本番環境インフラの一部で外部からの侵入を検知したと報告。自律型AIエージェントシステムによるものだとして、自社インフラ上に構築したオープンウェイトモデル(GLM 5.2)を使ったフォレンジック分析を行なうなど対応を実施したと明かしていた。ただし、使用されたLLMなどについては同日時点で不明としていた。

　OpenAIでは7月21日、このHugging Faceの報告した事案が、GPT-5.6 Solおよび未公表の高性能モデルの組み合わせによって引き起こされたものだったと公表。サイバー攻撃性能の最大値を測定するため、AIモデルのセキュリティ制限を下げた状態でベンチマークテスト「ExploitGym」を実行している中で発生したという。

　AIモデルはインターネットから隔離したサンドボックス環境に置かれていたが、パッケージレジストリ用のプロキシおよびキャッシュをホストしていたサードパーティアプリのゼロデイ脆弱性を自ら特定して悪用することで、インターネットへのアクセスを獲得。Hugging Face上にExploitGym用モデルやデータセットなどが存在する可能性が高いと推測し、テストで高いスコアを獲得するために、Hugging Faceサーバーへ侵入した。侵入には窃取された認証情報やゼロデイ脆弱性が併用されたという。

　OpenAIはHugging Faceと協力し、今回の事案の調査を進めており、悪用されたゼロデイ脆弱性をソフトウェア提供元に開示しているほか、AIモデルの学習と評価に関する保護対策の強化にも取り組んでいるという。

　またHugging Faceでは、今回の事案において当初、商用APIの最先端AIモデルを使ったログ分析を試みたが、セキュリティガードレールによって上手くいかなかったことにも言及。AIモデルは攻撃側と防御側を区別できず、攻撃側は制限に縛られずAIを活用できる一方で、防御側はガードレールによる制約があり、AIエージェントによるサイバー攻撃においても非対称性の問題があると指摘した。