頼れるAIはまだ先? “AIの目”を欺く視覚技術が開発

　近年の機械学習の進歩により、人間に匹敵する画像認識精度の向上や、AlphaGoが代表するような人間をも凌駕する技能を備えた人工知能(AI)が実現されているが、そのAIに100%の信頼を寄せるのはまだ時期尚早だ。

　このたび、マサチューセッツ工科大学(MIT)の学部生と大学院生で構成されたAI研究チーム「LabSix」は、Googleが開発した画像認識「InceptionV3」を巧妙に“騙す”手口を発見した。

　同グループの研究によると、特定のトラ猫の画像をInceptionV3に認識させたところ、なぜかワカモレ(メキシコの料理)として誤認識されたという。しかし同じ画像を少し回転させれば、トラ猫だと正しく認識された。

　つまり、監視カメラといったリアルタイムのAI処理では、特定のフレームで誤認識が発生したとしても、ほかのフレームで正しく認識すれば問題ない。また、動画であれば、対象が常に回転したり大きさが変化することで誤認識を回避できる可能性もある。ところが今回LabSixは、あらゆる角度から撮影しても誤認識させられるアルゴリズムを見つけたというのだ。

　LabSixが一例として作成したのは、甲羅などに特定のパターンを印刷したウミガメの3Dプリントミニチュア。これをどの角度から撮っても、InceptionV3ではライフル(銃)として誤認識された。同様の手法で、これはエスプレッソだとAIを騙せる野球のボールも再現できたのだという。

　もちろん、AIのアルゴリズム改善などにより、今後こういった問題が解消する可能性もあるのだが、少なくとも現時点のAIが“完璧”だとは言えないのは確かだ。