OpenAI、サイバー犯罪グループのAI使用を阻止。ロシアや中国などの国家に関連

　OpenAIは14日(米国時間)、同社のAIサービスをサイバー犯罪に活用しようとする、国家につながりがあるとされる脅威アクターが持つアカウントを、Microsoftとの連携を通じて特定し停止したことを発表した。

　アカウントが停止された脅威アクターは、中国関連のCharcoal TyphoonおよびSalmon Typhoon、イラン関連のCrimson Sandstorm、北朝鮮関連のEmerald Sleet、ロシア関連のForest Blizzardの5つ。

　これらの脅威アクターは、オープンソース情報の検索、翻訳、コーディングエラーの特定、基本的なコーディングタスクの実行などにOpenAIのAIサービスを利用していた。

　たとえば、Charcoal Typhoonはフィッシングで使用される可能性のあるコンテンツを作成したほか、Crimson Sandstormはマルウェアが検出されないようにする方法を調査し、Forest Blizzardは主に衛星通信プロトコルとレーダー画像技術に関する研究を調べていたという。

　OpenAIは、悪意のある国家関連の脅威アクターの活動を監視し、阻止するための技術や専門チームへの投資を続けており、AIシステムの安全性向上を目指している。