ニュース
ChatGPT4がサイバー犯罪を助長する可能性。チェック・ポイント発表
2023年3月22日 13:35
セキュリティ研究のCheck Point Researchは15日(米国時間)、大規模言語モデルによるAIチャット「ChatGPT」の「GPT-4」モデル(Check PointではChatGPT4と呼ぶ)についてセキュリティの検証を行ない、サイバー犯罪の加速につながる可能性を指摘した。
ChatGPT4にはセーフガードが入っており、マルウェアの作成やフィッシングメールの作成を助長しないようになっているが、Check Pointの研究によれば「マルウェアという言葉を削除してマルウェアのソースコードを生成する」、「GPT-3.5モデルを使用して生成のブロックをバイパスし、完成した文章をGPT-4モデルで改善する」、「PHPリバースシェルの生成」といった指示が可能だったという。
同社は、善人はChatGPT4を使用して社会に役立つようなコードを生成するが、悪意のある人物なら、このAI技術を使用してサイバー犯罪を迅速に実行できてしまうとも述べている。