OpenAI、最先端AIモデル学習中のネット接続遮断など安全対策を強化

　OpenAIは10月23日、内部研究モデルが制限を回避してインターネットにアクセスしたことを受け、高性能モデルの学習と評価を一時停止していたと説明した。最先端AIモデルの学習・評価環境における安全対策を改修し、安全性を確認したうえで、10月1日に強化学習と内部推論を再開。一方で、監視やセキュリティなどの観点から、現在も学習段階でのインターネット接続はさせない方針をとっているとした。

　今回の取り組みは、開発中のAIモデルが許可された範囲を超えて動作するのを防ぐための対策だ。対象は研究用の学習・評価環境で、顧客向けの環境とは異なる。9月20日には、内部研究モデルがDNSリゾルバーの設定不備を悪用し、学習中に限定的ながら外部のインターネットにアクセスする事案が発生。同社はこれを封じ込め、最も高性能なモデルの学習・評価を停止し、インフラや監視機能、危険な動作を検知した際の自動停止システムを改修した。

　対策の柱は、インデックス化・キャッシュした大量のWebコンテンツで構成される「オフラインワールド」だ。実際のインターネットに接続することなく、ブラウジングや情報検索、Webアプリの操作を学習できる環境で、最先端モデルの強化学習はすべてこの方式で実施している。Linuxでは制限付きコンテナを軽量仮想マシン(microVM)内で動かすとともに、監視システムやネットワーク、クラウド側の通信制限を組み合わせた多層防御を採用している。実験の運用・監視に必要な外部接続は残るため、インフラ全体を外部ネットワークから物理的に切り離す方式ではない。

　また、高性能モデルにソースコードや設定情報などを与え、外部への接続や隔離環境の突破を試すレッドチーム検証に数千億トークンを投入。近日公開予定のフロンティアモデル「GPT-6 Astra Cyber」などを活用し、サンドボックスからの脱出につながる未知の脆弱性や、内部サービス経由で外部へアクセスできる設定不備を発見・修正した。

　なお、これらの検証で発見された脆弱性情報はソフトウェア開発元にも共有しており、Kata Containers、gVisor、Moby/Dockerなどには同社が修正パッチの提供を進めている。加えて、隔離されたエージェント同士が情報をやり取りする試みを検知するチェック機能も追加した。

　同社は対策後の防御が再開に十分と判断した一方、将来のモデルが未知の脆弱性を発見・悪用する可能性は残るとし、大規模なレッドチーム検証を今後の学習・評価の安全性判断に組み込んだ。10月23日の公表時点では、最先端モデルの学習にインターネット接続を認めない方針を採用しており、安全対策の進展によって、接続が妥当と判断できるまでこれを継続するとしている。