プライバシー侵害で揺れに揺れたEvernote問題

　Evernoteは先日、2017年の1月23日より、プライバシーポリシーを変更し、機械学習を監督のため、一部の社員がユーザーのノートを閲覧できるようにすると発表した。しかし、ユーザーからの猛反発を受け、この改訂を取り下げた。

　変更発表から取り下げまで僅か1日足らずという行動を素早い対応と見る向きもあるものの、ユーザーのプライベートなノートを社員が覗き見るということを一方的に宣言したことに対し反感を覚えたユーザーは多く、既に退会したという声も多く観られる。

笠原氏の視点

　クラウドベースのノート帳サービスを提供するEvernoteが、プライバシーポリシーを変更し、機械学習を利用した新しいサービスなどの導入のため、一部の社員がユーザーのノートを閲覧できるようにすると発表した。

　だが、既存ユーザーの反発は大きく、いわゆる“炎上状態”となり、早々にその方針を撤回する事態となった。なんとも格好悪いことだ。ある程度の反発は想定しただろうが、大多数のユーザーには受け入れてもらえると判断して導入を決めたのだろうが、予想以上だったのだろう。そもそも、なぜEvernoteはユーザーが反発することが火を見るよりも明らかなことをしたのだろうか?

　その背景には、現在IT業界のトレンドとなっている機械学習や深層学習といった新しい演算モデルを利用したサービスの導入にあたり、そうした措置が必要になってきていることがある。

　機械学習を利用した画像認識サービスを導入する場合、大量の学習用のデータが必要になる。ビックデータと呼ばれるものだ。機械学習や深層学習を利用したサービスの導入を検討しているIT企業にとって、そうしたビッグデータをどのように入手するかが頭の痛い問題となりつつある。その解決策として自社のクラウドサーバーに格納されているユーザーデータを学習データとして活用できれば、と考えるのはIT企業にとっては論理的な解と言える。そのビッグデータを解析し、機械学習を利用した新しいサービスを導入することができれば、ユーザーの利益になる。おそらくEvernoteはそう考えたのだろう。

　実際、各社のクラウドストレージサービスの規約をよく読むと、顧客のプライバシーには最大限配慮するが、同時にサービスプロバイダ側がデータ全体をビックデータとして扱って活用することができるように読める場合が少なくない。実際やっているのか、やってないのかそれは分からないが、やっていても不思議ではないという規約になっている場合はある。その意味では、Evernoteだけがそうしたことをやっているわけではないことも付記しておく。

　では、なぜEvernoteだけが炎上してしまったのか? その要素は２つある。1つは後出しジャンケンになってしまったこと、もう１つは人間が介在するとしてしまったことだ。

　Evernoteはこうしたノート帳サービスとしては歴史があるサービスで、2008年のベータサービスの開始から既に8年以上の歴史をもっている。多くのユーザーは既にかなりのメモを同社のクラウドサービス上に保存しているが、前から使い続けてきたユーザーにしてみれば、「これだけ使ってきて今更言うなよ」という感情を持つのは無理もないところだ。

　そして、機械学習でビッグデータとして扱うのにコンピュータだけがアクセスするのではなく、“人間”であるEvenoteの社員がデータにアクセスできるとしてしまったのも問題だった。自分の生活を覗き見られて嬉しい人は誰もおらず、プライバーに敏感なユーザーの感情に火をつける結果になってしまったのだ。

　以前であればこういう規約を変更しても、多くのユーザーは気付かずに、問題視することもなかった。しかし、SNSなどユーザーが横につながる仕組みが発展したことで、従来であれば問題とされなかったことも、ユーザー間で問題が共有されていくうちに、炎上に繋がっていく事例を見ることが多いのは読者の皆さんもよくご存じだろう。今回のケースはまさにこれに該当している。筆者はEvernoteの担当者が悪意を持ってこういうことをやっているとは思っていない。

　おそらく担当者は、機械学習を導入すれば、Evernoteのユーザーに新しい機能を導入し、それはユーザー全体のためになると信じて導入したのだろう。しかし、ユーザー全体の利益という意味ではその通りだが、その一人一人は感情をもった人間であると言うことを忘れていたのだろう。それが今回の問題の本質だ。

　ITサービスは、PCやスマートフォンなどの何らかのコンピュータを通じて提供される。それらは感情を持っていないが、それらを使っているのは感情を持っている人間だ。その感情に配慮した丁寧な説明や対応が必要、それが今回の教訓と言えるのではないだろうか。

山田氏の視点

　機械学習がうまく機能しているかどうかを監督するために人間がユーザーのノートを閲覧できるようにするというプライバシーポリシーの変更発表。ところがそれに対する猛反対の声を受け、翌日それを撤回。

　変更発表から撤回までほぼ24時間だ。結局Evernoteは何も変わらなかったが、これによって多くのものを失った。たった1日で撤回するくらいなら最初から言うなという意見もあれば、1日で撤回できるスピーディな経営判断はすごいという考え方もある。

　変更発表後は、Twitterやfacebookを見ているだけでも、多くのユーザーが、この変更を嘆き、猜疑心を抱いてEvernoteからの退会を表明していたり、その引っ越し先を探している、あそこがいい、ここがいいというメッセージが飛び交った。データをすべて削除する方法を探すユーザーもいた。そして、撤回したらしたで「もう遅い」の一言。

　クラウドサービスがスマートフォン利用を含むパーソナルコンピューティングの中核を担うようになって久しいが、それはサービスそのもの、つまり、機械がユーザーの行動やデータの往来を学習して、より役に立つ提案や気付きを提供することを、ユーザーが受け入れた結果でもある。

　もちろん、その恩恵を得るためには、機械がデータを精査することを承諾しなければならない。だからこそ、さまざまな場面で「許可」を求められ、ぼくらはそれを「許可」する。その許可はいつでもオプトアウトできるという前提だ。だからこそ、あまり深く考えることもなく、多くのユーザーはオプトインしてきた。

　ところが、機械ではなく、人間が精査する可能性があるとした今回の発表には敏感に反応し猛反対が起こった。たぶんSNS普及以前には、この動きが表面化することはなかったかもしれない。クリス・アンダーソンによる「ロングテール」が提唱した恐竜の尻尾の部分が決定をくつがえしたといってもいいだろう。

　機械はデータを見るが人間は見ない。データを分析した結果が個人を特定することはなく、また、そのことによる恩恵を受けられるのはデータの持ち主だけ。それが機械学習の前提だ。

　そしてメールの内容はスキャンされ、もし、特定期日のフライトやホテル滞在などの予約確認情報が見つかれば、その日の直前に通知を受けることができたりする。これを生理的に気持ちが悪いと思う反面、こんなに便利なことはないとも思われる。Evernoteにしても、蓄積した自分のデータから特定のキーワードを使って過去のデータを検索するとき、当然のことながら機械は既存のデータをなめる。その検索体験をよりよいものにするために、データが入力された時には、その内容がなめられてインデックスも作成済みだろう。

　でも、データを見ているのは機械であって、サービス側は機械が何をしたかを見ているだけだという論理は本当に信じていいのかどうか。個人的にはそんなはずがないとも思っている。

　そもそも、サービスとは何なのか。

　サービスはアルゴリズムであり、アルゴリズムは人間が考えたものだ。人間がアルゴリズムをよりよいものにするために個人情報を見ていない保証はないと考える方がいいだろう。そういう意味では今回のEvernoteは正直すぎたともいえる。

　日本国内では2013年、JR東日本がSuicaに関するデータの社外への提供について発表し、今回と同様にユーザーの猛反対を受けて、それをとりやめ、さらにデータ提供分から除外する要望を受け付けるような施策が発表されている。

　ビッグデータは膨大な量の個人データでもある。そしてその分析結果が暮らしを豊かにする(はずだ)。でもそこから特定の個人が何に興味を持って何をして何を考えているのかを割り出すのは難しいことではない。用心深いサービスなら、きっと個人を特定できるデータなどは持ちたくないだろうし、あえて持たない。漏洩など、何かあったら大変だからだ。

　結局のところ、これまたクリス・アンダーソンが紹介した「フリーミアム」のビジネスモデルにおいて「ただほど怖いものはない」ということであり、人はなんらかの形で代償を支払っているということでもある。今回のEvernoteの件は、おそらく有償でサービスを利用しているユーザーが反発したことが多かったのではないか。カネを払っているのにそれはないといったところか。

　いやならコンピュータの通信機能を停止させよう。プリインストールOSだけを使い、必要なアプリはDVDパッケージなどで手に入れよう。メールやSNSなど他者との一切のコミュニケーションをやめてしまおう。Webを見るのもなしだ。それだけのことで、ウィルスとも個人情報漏洩とも無縁の暮らしが手に入る。

　今後は、サービス側が個人情報を人間が見ることはないというポリシーを、より明確に示すことが求められるようになるだろう。その前に「サービス」とは何なのかを再確認しておく必要もありそうだし、通信の秘密、通信の自由とも併せて考えなければならない。話の奥は深いのだ。