ニュース

ChatGPT、外部通信を遮断し情報流出防ぐ「Lockdown Mode」追加

 OpenAIはAIチャットサービス「ChatGPT」において、新たなセキュリティ機能「Lockdown Mode(ロックダウンモード)」と「Elevated Risk」ラベルを導入した。

 今回の機能追加は、第三者がAIに対して悪意ある指示を与え、機密情報を引き出す「プロンプトインジェクション」攻撃への対策を強化するものだ。

 Lockdown Modeは、企業幹部やセキュリティ担当者など、特に高いセキュリティレベルを求めるユーザーを対象としたオプション機能。このモードを有効にすると、ChatGPTと外部システムとの通信が厳格に制限され、攻撃者によるデータ持ち出しのリスクを低減できるという。

 具体例としては、Webブラウジング機能を利用する際、キャッシュされたコンテンツのみが参照されるようになり、ブラウジングを通じた攻撃者へのデータ流出を防げるとしている。データの安全性を保証できない一部の機能は、完全に無効化される。

 本機能は現在、ChatGPT Enterprise/Edu/for Healthcare/for Teachersの各プランで利用可能。管理者がワークスペース設定から新しいロールを作成することで有効化できる。一般ユーザー向けには、今後数カ月以内に提供される予定。

 Elevated Riskラベルは、ChatGPTやコーディング支援AI「Codex」、AI Webブラウザ「ChatGPT Atlas」などが備える、ネットワーク接続などのリスクを伴う機能に対して表示される統一ラベル。例えばCodexでドキュメント検索のためにWebアクセスを許可する際などに表示され、ユーザーにリスクへの注意を促す。

 これらの機能によりユーザーや組織がリスクを可視化し、より強力な制御を行なえるようになるという。