テロコンテンツ共有データベースは、あなたのプライバシーを脅かすのか？

Facebook、Twitter、Microsoft、YouTubeの大手IT企業4社は、テロ組織がプロパガンダの拡散やメンバーの勧誘に使用する画像・動画を収録した大規模なデータベースを共同構築すると発表しました。このデータベースを活用することで、自社プラットフォーム上のコンテンツが利用規約に違反している可能性がある場合、各企業へ自動的に通知される仕組みを目指しています。

一見すると、とても良いアイデアのように思えますよね？

仕組みの詳細

現時点では、まだ詳細の多くが不明瞭です。分かっているのは、データベースに登録された画像や動画にはそれぞれ「固有のデジタルフィンガープリント」が付与され、同じコンテンツが自社サイトに投稿されると企業に通知されるという点です。導入当初は、「最も過激で悪質なテロ関連の画像・動画」のみが登録対象となるとされています。

この考え方の背景には、こうした画像や動画こそが、どのプラットフォームでも利用規約違反となる可能性が最も高いという判断があります。そのため、他のサイトで発見された場合でも削除の判断がしやすいわけです。どのコンテンツをデータベースに追加するかは各企業が独自に決定でき、自社サイト上のコンテンツを削除するかどうかも各社の裁量に委ねられています。

現時点で判明しているのは、ほぼこれだけです。Twitterは「この協力体制により、テロコンテンツという差し迫った世界的問題への取り組みが、より効率的になると期待している」と述べています。しかし、依然として不明な点は多いままです。どのコンテンツを提供するかは誰が判断するのか？ 各社は独立した審査委員会を設置するのか？ それとも、気まぐれに少しずつ追加していくだけなのでしょうか？

芳しくない対応実績

オンライン上のコンテンツ監視は、実は非常に難しい業務です。誤情報、嫌がらせ、テロ組織の勧誘動画など、ネット上には数え切れないほどの有害コンテンツが存在し、その対応プロセスには数多くの課題が潜んでいます。どの団体をテロ組織と認定するのか？ コンテンツ削除の判断はどのように下されるのか？ 企業側が能動的に探し出すのか、それともユーザーからの通報に頼るのか？

Microsoftは、オンライン上のテロコンテンツに関する声明の中で次のように述べています。

当社がホストするコンシューマーサービス上のテロコンテンツについて、オンライン通報ツールを通じて報告を受けた場合、当該コンテンツを削除します。

同社はテロコンテンツ専用の通報フォームへのリンクも提供しています。しかし、一般ユーザーがわざわざそのフォームを探して使用する可能性は、果たしてどれほどあるでしょうか。さらにMicrosoftは「Bingからテロ関連コンテンツへのリンクを削除するのは、現地の法律で検索プロバイダーに削除義務が課された場合のみ」とも表明しており、責任を他者に転嫁する姿勢がうかがえます。

責任の所在をめぐる問題

電子フロンティア財団（EFF）は、こうしたコンテンツ監視の難しさについて繰り返し指摘してきました。2014年の記事では、透明性や説明責任の手続きを欠いたまま、ISP（インターネット接続事業者）に「過激派コンテンツ」のブロックを強制しようとする英国の計画を批判しました。また、人権団体は、テロ活動の定義が極めて広範にわたっているとして、フランスの取り組みにも疑問を呈しています。

TwitterとFacebookはいずれも、コンテンツ管理の実績という点で決して褒められたものではありません。TwitterはISIS関連アカウント10万件以上を削除し、ヘイトスピーチグループへの対策強化に乗り出しましたが、過激主義や嫌がらせを野放しにしてきたという悪評は今も拭えていません。Facebookもまた、「表現の自由」の名のもとに、事態に手を付けない姿勢を続けているように見えます。

もちろん、こうした責任を担うことは容易ではありません。簡単だとは言いません。しかしテック企業は、自社の技術が何のために使われているのかから距離を置くことに長けています。テロ組織による画像・動画の拡散や勧誘活動なども、その典型例と言えるでしょう。2016年8月には、英国の報告書が「Facebook、Twitter、YouTubeは、自社サイトがテロや殺戮の促進に利用されることへの対処を意図的に怠っている」と厳しく指摘しました。

画像・動画データベースの設立によって、この状況が大きく変わるとは考えにくいのです。行動を起こしたこと自体は前向きですが、本腰を入れた取り組みになるとは想像しがたく、生ぬるい対応にとどまる可能性が高そうです。

プライバシー問題になり得るのか？

今回の仕組みでは、ユーザーからの通報を受けて企業が手動でデータベースに登録するため、あなたの画像や動画が誤ってデータベースに紛れ込む可能性は低いと考えられます。これはひとまず安心材料です。しかし、固有の識別子を持つ「有害」コンテンツだけで構成された巨大な中央データベースの創設は、無視できない懸念材料となります。

最大の理由は、「有害」とみなす基準を、その時々の権限者が自由に決められる点にあります。政府が関与すれば、この傾向はさらに強まります。今日は多数派の一員だった人が、明日には弾圧される少数派になってしまう――そんな社会変化は決して絵空事ではありません。こうした技術の普及は、そのような事態をより現実的で恐ろしいものにするのです。

もちろん、これらの企業がこのデータベースを、自社の利用規約の執行以外の目的に使う兆候は現時点ではありません。しかし、民間企業がこの種の技術を開発・運用しているという事実に、不安を覚える人もいるでしょう。政府はすでに同等以上の監視技術を保有しているはずですが、技術の民間への拡散は、近い将来、企業がより多くの個人情報を収集できる手段を手にすることを示唆しているかもしれません。

現時点では、テロコンテンツデータベースによってあなたのプライバシーが直ちに脅かされる心配はないと言えます。ただし、プライバシーや市民の権利擁護に関わる団体は、この種の技術が今後どこでどのように展開されていくのか、注意深く見守るべきでしょう。

前進の一歩となるのか？

テック企業がテロコンテンツに対して積極的に動き出したこと自体は、歓迎すべき流れです。しかしその過去の実績は、杜撰な執行と意図的な放置の連続でした。このツールで状況は本当に好転するのでしょうか？ 残念ながら、その可能性は低そうです。（仮に自動化するなら話は別ですが、それにはまた別の深刻な問題が山積みになります。）筆者の見解では、このデータベースが大きな変化をもたらすことはなく、Twitter、Facebook、Microsoft、YouTubeの4社は、実際に社会のためになる取り組みとしてではなく、世間向けの広報対策として考案したのかもしれません。

あなたはどう思いますか？ このデータベースはオンライン上のテロコンテンツ拡散防止に本当に役立つのでしょうか？ それとも、世間の称賛を得るためだけの空っぽのジェスチャーにすぎないのでしょうか？ ぜひコメント欄でご意見をお聞かせください！