ニュース

待ち時間短縮!GPT-6 AstraとGPT-6.1 Solが約50%高速化

 ChatGPTのサブスクリプションでCodexを使う開発者は、設定を変えることなく、応答が表示されるまでの待ち時間の短縮を実感できる。OpenAIでは10月5日に、今後28日間、毎日ChatGPTおよびCodexの改善または利用枠のリセットを実施すると発表していたが、その1日目の取り組みとしてGPT-6 AstraおよびGPT-6.1 Solの高速化が行なわれた。

 ChatGPTやCodexの開発に携わるTibo氏の投稿によれば、TPS(1秒あたりのトークン数)は30TPSから50TPSに上がり、GPT-6 AstraおよびGPT-6.1 Solのデフォルト時の速度は約50%向上した。またTibo氏は、両モデルは処理に必要なトークン数が少なく、トークン効率が高いとしている。

 この改善は、サブスクリプション経由で利用するすべての製品およびSign in With ChatGPTを使うパートナー製品に適用される。