パナソニック、AIの「知ったかぶり」を防ぐ技術

FlowEneDet技術

　パナソニック ホールディングス株式会社およびPanasonic R&D Company of Americaは、AIが学習していない物体に対し「知ったかぶり」をすることを防ぎ、画像認識AIモデルの信頼性を高める技術「FlowEneDet」開発したと発表した。

　画像認識AIモデルは、事前に学習させた対象に対して高い認識率を誇るが、実環境においてはすべてを事前に学習させることは不可能であり、「未知の物体」に直面することは避けられない。しかし、AIは「知らない」と判断できないため、知っている範囲で無理やり認識する「知ったかぶり」をするので、予期しない誤動作にもつながりかねず課題となっていた。

未知物体に誤ったラベルが無理やり振られた例

　パナソニックが開発したFlowEneDetは、画像認識結果が「どのぐらい信頼できるか(不確実性)」を推定可能な生成モデルを画像認識モデルの後段に追加される機能で、「未知物体」に付与された誤ラベルを棄却し、本質的に認識可能な学習済の物体のみを正しく認識できるようになるという。

　FlowEneDetはフローベースの生成モデルで、学習した既知の物体と、学習していない未知物体や誤分類を分離できる。未知物体や誤分類領域をより高精度に分離するため、データ密度のモデリングを行なうエネルギーベースモデルを組み合わせたという。

評価結果の一例

　この方法は学習済みAIモデルの後段に追加するだけで拡張可能で、時間のかかるセグメンテーションモデル側の再トレーニングが不要。また、低次元の自由エネルギーを処理する複雑さの低いアーキテクチャで、学習/評価コストを大きく増やすことなく高速に動作。車載、暮らし、B2Bにおけるさまざまなユースケースでの活用が期待されるとしている。