ニュース

人間がAIを信用するために必要な4つの要素「FATE」

~Microsoft ResearchのAI研究の動向が明らかに

ジャネット M. ウィン氏(Corporate Vice President, Microsoft Research)

 日本マイクロソフト株式会社は、MicrosoftのAI分野における基礎研究の最新動向について、報道関係者向けラウンドテーブルを開催した。

 米Microsoftの研究機関、Microsoft Research (MSR)のコーポレートバイスプレジデントを務めるジャネット M. ウィン氏の来日に伴い開催されたもので、登壇者として同氏が出席。AIへの取り組みの説明および、質疑応答が行なわれた。

 ウィン氏は、「今、人工知能(AI)はIT業界で最もホットな話題」と述べ、Microsoftでは何年も前からAIに取り組んでいると説明。Microsoftは、2016年にAIの研究開発部門「Microsoft AI and Research Group (AI&R)」を立ち上げており、既にBingやCortanaに組み込まれているが、今後、同社の提供するあらゆる製品にAIが組み込まれていくと述べ、AIは同社と同社の未来に重要な要素であるとした。

 MSRは、1991年に設立され、世界最先端のコンピュータ科学に関する研究を行なっている機関だが、同氏は、MSRはコンピュータ科学だけでなく、幅広い研究分野をカバーしており、AIの研究もその一環であると述べ、実際にCortanaなどに組み込まれている音声認識は、2009年の研究開発が基になっているとした。

 現在、MSRのAI研究は、新たな機械学習アルゴリズム開発などの「基礎研究」のほか、「タスク完了(Task Completion)AI」、「信用できる(Trusted)AI」に注力しているという。

 タスク完了AIとは、AIがアシスタントとして働き、タスクを想起させたり、代わりにタスクを完了してくれるものを指すという。具体的には、Cortanaがメールやカレンダーの内容を見て、「後日スライドを送る」といった約束や、「会議の前に事前資料に目を通しておく」のようなタスクを認識し、通知によって行動を促すといったもの。

 もう1つの「信用できるAI」については、同氏は従来のソフトウェアやハードウェアのシステムを構築する際には、安全性や信頼性、個人情報の保護といった要素が求められるが、AIの場合にはそれらに加えて、「信用できるかどうか」という点が求められるという。

 同氏は、人間がAIを信用するためには、MSRでは頭文字を取って「FATE」と呼ばれる、公平性(Fairness)、説明責任(Accountability)、透明性(Transparency)、倫理(Ethics)の4つの要素が必要だと述べた。

 まず公正性については、機械学習は、学習結果のモデルが製品へと利用されるが、学習プロセスには大量のデータを使用する。しかし、学習に使われるデータには偏りがあるため、それを学習に使ったモデルも同様に偏ってしまう。結果として、偏見を持った「不公平なモデル」が生まれてしまうという。

 説明責任は、例えばターゲティング広告であれば、AIが対象が男性なのか女性なのか、若者や老人なのかなどを判断して広告表示をした結果、差別的な広告表示が行なわれたとユーザーが感じた場合、誰が悪いのかという問題で、アルゴリズムなのか広告サービス提供者なのか、説明責任を負う対象が不明瞭になってしまう問題を指す。

 透明性は、深層学習(ディープラーニング)が起因の問題。深層学習は、音声認識や機械翻訳などにおいて、10年前には達成できなかった人間レベルのタスク処理を実現したが、深層学習が「なぜそれらの処理を行なえているのか」は現在完全には分かっていない。結果、ユーザーから求められる「AIが行なった“判断の理由”」が説明できない点が問題であるとした。

 倫理問題については、AIシステムでは、さまざまな文化や状況に応じた倫理問題を考慮しなければならないとした。

 同氏は、MSRはこれらの基礎研究、タスク完了AI、信用できるAIの3つの分野でAIの研究開発を行なっているほか、AIをより効率的に運用できるシステムの開発、逆にシステムを効率的に運用するためのAIの活用なども行なっているとアピールした。

 質疑応答では、幾つかの質問が行なわれた。

 透明性問題の解決をどう行なうのかという質問には、同氏は解決には2つの方法があると述べた。

 まず1つ目はディープニューラルネットワーク(DNN)を、レイヤーが何を学習し判断しているのか、1つのレイヤーごとに分析するというもの。同氏は「DNNは決してブラックボックスではない」と述べ、各レイヤーで見れば、人間が理解できるものを含んでいるとした。

 もう1つは、DNNは是または否の判断を下すもののため、それぞれの確率を表記し、それを判断のためのガイドとすることで、人間の判断に役立てるというもの。

 同氏は、これら2つはそれぞれ必要とされる解決策であり、どちらも必要であるとした。

 AIが人間の知性を超える「シンギュラリティ(技術的特異点)」についてどう考えているかという質問には、同氏は「少なくとも、我々が生きている間に心配する必要はない」との回答だった。

 同氏は、「この十年で大きく進歩があった」と前置きしながらも、まだまだ汎用知性(General Intelligence)への道のりは長く、特定技能においても、音声認識と機械翻訳の精度も進化しているが、例えばスペイン系アメリカ人なら会話中にスペイン語と英語が混在したり、外来語も存在するため、単一の言語だけで話す人はいないと述べ、文章翻訳でも、英語とドイツ語が同じ綴の単語があれば、それをどちらか判断するのは難しいなど、「現に今も翻訳者がいるように(ラウンドテーブルには同時通訳者が同席していた)、まだまだ人の方が精度も高い」と説明した。