OpenAIの次期AI「Astra」投入が秒読み段階。セキュリティ能力「重大」

　OpenAIの次のフラグシップモデルが、いよいよ目前に迫ってきた。OpenAIは9月1日(現地時間)、次期モデル「Astra」を近日中に提供開始すると発表した。サム・アルトマンCEOも自身のX(旧Twitter)で「次のモデルをまもなく公開する」、「Astraの訓練はしばらく前に完了している」と明かし、能力とアライメントの両面で大きな前進になると述べた。

　Astraは、同社の安全性評価枠組み「Preparedness Framework」において、サイバーセキュリティ分野で最も高い「Critical(重大)」の能力水準に達した初のモデル。適切なツールとアクセス権限さえあれば、厳重に守られたシステムでも、各ステップを人間が指示せずとも未知の脆弱性を見つけ出し、攻撃手段まで作り上げられるという。

　実際にAstraを、既知の脆弱性からエクスプロイトを開発するモデルの能力を評価するベンチマーク「ExploitBench」で実行したところ、同モデルは100%のスコアを獲得した。さらに、最近公開された20個の深刻なV8脆弱性を含む内部ベンチマークも作成した。GPT-5.6 Solよりはるかに少ない出力トークンで高い任意コード実行率を達成し、評価中に未知の脆弱性2件も発見できたという(メンテナーに報告する準備を進めている)。

　Astraがこうした高いセキュリティ能力を持つことから、同社はここ数週間にわたってAstraの開発と公開を遅らせ、悪用や無断行動を防ぐ安全策の強化とテストを実施してきた。また、現行モデルの「GPT-5.6 Sol」がサイバー攻撃に関する不正な要求を59%しか拒否できなかったのに対し、Astraは91.5%を拒否できるようになった。さらに、モデルの推論と行動を常時監視し、疑わしい動作を自動停止する仕組みも本番環境に導入する。

　こうした安全策の副作用として、正当な作業が一時停止したり止まったりする場合があり、ChatGPTやCodexではユーザーに確認を求めることがあるという。高度なサイバーセキュリティ用途は当初、少数のテスターにのみ開放し、その後「Daybreak Blue」プログラムを通じて防御目的の利用に広げる計画だ。

　アルトマンCEOは「Astraは非常に優れており、人々が何を作るのか楽しみだ」としつつも、「慎重さが求められる段階にあり、新たな能力水準に必要な安全基準を満たすために進捗のペースを調整している」と説明。Astra以降のモデルについては、安全性とアライメント確保の作業に十分な時間を確保するため、開発を減速させているとした。「AIは極めて高い能力を持ちつつあり、その結果を完全に理解している者はいない」とし、社会と技術が両輪で進化する反復的なループこそが最善の道だと述べている。