Google、リアルタイムで書き込みの「暴言度」を評価するAPIを開発

Perspectiveの動作イメージ。この場合、98%というスコアが付いている。

　GoogleとJigsawは23日(米国時間)、機械学習を応用しリアルタイムでWeb上の投稿を評価するAPIを発表した。「Perspective」と名付けられた同APIは、学習に基づき、投稿に対して「暴言度(toxicity)」というスコアを付けることができる。近年、移民に対する差別的な投稿などが国際的な問題となっており、GoogleやFacebook、MicrosoftといったIT大手は、膨大な数の投稿への対策が迫られている。

　Perspectiveは、事前に人間によって評価された数十万件の暴言サンプルから学習を行ない、その結果に基づいて投稿にスコアを付けることができる。このスコアによって、人の眼でチェック仕切れないほどの膨大な投稿の中から暴言と考えられるものの抽出を可能とし、そこから人手でその投稿が実際に暴言であるかを選別する。

　現在、英語版Wikipediaや、米紙The NewYorkTimesの投稿欄などでテスト運用中であり、このような投稿数の多い媒体での運用を通じ、Perspectiveはより多くのサンプルを得ることができ、さらに精度を高めることが期待される。

　同APIの応用可能性はモデレーションに限らず、読者サイドが活用する可能性も検討されている。読者が「暴言度(toxicity)」から投稿をソートすることで暴言に埋もれる有益な投稿をすくい上げるというものだ。そのほかにも、投稿欄に同APIを適用しリアルタイムでスコアを表示することで、投稿者に自身の発言を見直すように促すなどの用法が考えられている。

　同APIは2017年中の公開を目指しており、公式サイトでは開発者に向け、APIアクセスの申請を受け付けている。