このネット画像はAI生成？改変されている？Google DeepMindが検出ツール

　Google DeepMindは7月21日、画像の来歴や生成AIによって作成されたものかどうかを判別できるプロトタイプツール「Backstory」を公式ブログで発表した。

　Backstoryは、画像とテキストを入力すると、その画像がどのように使用、改変されてきたか、生成AIによるものかどうかを調査し説明するもの。本技術はGoogleのマルチモーダルAI「Gemini」を活用して構築されている。

　生成AI画像ではなかったとしても、改変されたり、誤解を招く、文脈から外れて提示されるものである可能性もある。逆に生成AIによる画像でも、真実であったり、創造的なものであったり、事実に基づいたストーリーを裏付ける可能性もある。

　そのためBackstoryで、複数の検出技術で画像の信憑性や文脈を総合的に評価し、誤情報、誤解を招くような使用に対抗する狙いがあるとみられる。ただし現時点では一般公開されておらず、今後の展開が注目される。