Facebook F8 2019 2日目レポート――FacebookがAIの「再発明」を迫られる理由

人工知能(AI)は年々進化を続けており、Facebookもカメラ機能やニュースフィードの分析など、さまざまな機能にAI技術を取り入れてきました。AIは本来、リソースの利用を最適化し、ユーザー体験をシンプルにすることで、私たちの生活をより便利にするはずのものです。ソーシャルメディアの分野では、次世代のコミュニケーション手段として活用され、大切な人とのつながりをスマートに支援してきました。

しかし現実には、FacebookのAIはニュースフィードのフィルタリングやユーザープライバシーの保護に失敗し、世界最大のSNSプラットフォーム上でヘイトスピーチが拡散されることを許すなど、倫理面での問題も露呈しています。F8カンファレンス2日目の基調講演では、Facebook CTO(最高技術責任者)のマイク・シュロプファー氏が登壇し、AIとAIセキュリティに関する取り組みが中心テーマとなりました。ここでは、Facebookが今後AIをどのように活用していくのかを見ていきましょう。

FacebookにおけるAIの役割

FacebookにとってAIの中核的な用途は、ニュースフィードの精査です。ヘイトスピーチ、暴力、人種差別、政治情報など、Facebookの価値観や世界各国の法律に反するコンテンツを検出・排除するために、AI技術が活用されています。また、ユーザーの検索履歴、興味関心、投稿内容を読み取り、適切な広告を表示したり、友達候補やスポンサー投稿をフィルタリングしたりすることにもAIは使われています。これこそが、Facebookのビジネスモデルを支える仕組みです。

FacebookのAI活用の仕組み

Facebookは高度な自然言語処理(NLP)を活用してAIを訓練しており、あらゆる形式のコンテンツを正しく区別できるようにしています。NLPは多言語埋め込み(multilingual embedding)を採用しており、AIがさまざまな言語のコンテンツを理解し、世界中のニュースフィードから有害なコンテンツを除去することを可能にしています。

AI開発の難しさ

多言語埋め込みを導入していても、FacebookのAIがすべてのコンテンツを捕捉するのは極めて困難です。世界には6,000以上の言語が存在し、ほぼ同数の民族的背景を持つ人々によって話され、書かれています。これほど膨大な言語知識をもとにAIを訓練するのは非常に難しい作業です。FacebookのAIは、システムにアップロードされたラベル付きデータから学習しますが、データ量は膨大で、効果的な訓練のためにラベル付けを行うのは開発者にとって大きな負担となります。さらに、データ量が増えるほど、人為的ミスが発生する余地も大きくなります。

画像・動画データの学習という課題

写真の理解に関しては、特にInstagram買収後、Facebookの技術は大きく進化しました。Computer Vision(コンピュータビジョン)とPanoptic Feature Pyramid Network(Panoptic FPN)の概念を組み込み、画像のあらゆる側面の構造を把握できるようになっています。Panoptic FPNは画像の背景まで含めた構造認識が可能になっており、ウェブ上に画像形式で存在する有害コンテンツをフィルタリングする能力をさらに高めています。

一方で、動画コンテンツの理解はFacebook AIの大きな弱点です。Facebook上にアップロード・共有される動画によるヘイトスピーチや暴力の防止において、機械学習は複数の局面で失敗してきました。ハッシュタグをデータラベルとして活用し、動画コンテンツから学習させたり、ハッシュタグ情報から関連性を判定させたりする試みもあったと主張していますが、十分な成果には至っていません。

Facebook AIはどこで失敗しているのか

FacebookのAIは教師あり学習(Supervised Learning)のフレームワークで動いており、人間の開発者がラベル付けしたデータセットから学習します。ここ数年で、Facebookのユーザー数は地球の総人口の約3分の1に達しました。つまり、テキスト、音声、動画形式の膨大なデータが、一秒ごとにFacebookへアップロードされているのです。その一方で、AIはこうしたコンテンツをリアルタイムで評価しなければなりません。人間が関与する以上、綿密な調査はデータラベル付けの遅延や、AIが読み取るデータセットの欠陥につながる可能性があります。その結果、コンテンツ検出に誤りが生じ、すべてのユーザーコンテンツに対して同じ精度でAIが機能しなくなる恐れがあるのです。

自己教師ありAI:有害コンテンツ除去への新たな布石

F8 2019の2日目、CTOのマイク・シュロプファー氏は、自己教師あり学習(self-supervised learning)を支援するシステムの設計に向けて、研究者や開発者を率いていると発表しました。このようなAIシステムは、データセットやラベルなしで情報を理解できるため、自立性と自律性が高まります。自己教師ありAIには大量のデータを入力できますが、必ずしもすべてのデータを生のまま与える必要はありません。AIの訓練モジュールを設計する際には、コンテンツやデータから一部の情報を意図的に削除し、機械自身に欠けた部分を推論させる方法が有効です。この種の訓練により、機械はFacebook上のコンテンツの関連性を高め、ポリシーや法律に照らした精査をより的確に行えるようになります。

包括的なAI訓練:AR事業をより倫理的かつ安全に

PortalとSpark ARを擁するFacebookは、AR・VR技術ビジネスへの大規模な展開を計画しています。しかし、スマートテクノロジーには、優れたユーザー体験を提供するための賢いAIが不可欠です。Portalのカメラは拡張現実の概念に基づいて設計されており、次世代の顔認識やスマートビデオチャットプラットフォームの鍵となるはずでした。ところが、これらのカメラやAR/VRヘッドセットには、コマンドの認識に偏りがあることが判明しました。レンズが肌の色や性別を区別してしまい、すべてのユーザーに同等の体験を提供できていないのです。これは人種差別や性差別を助長しかねず、世界的な批判を受けた今、Facebookが最も避けたい事態です。

そこでFacebookは、この問題を根絶するためのインクルーシブ(包括的)なAIの構築を発表しました。この取り組みでは、ナイジェリア系アメリカ人のLade Obamehinti氏がFacebook AR/VR部門の戦略部門を統括しています。研究チームは、異なる肌の色を持つ人々を対象に、さまざまな照明環境下でAIカメラをテストし、学習モジュールに誤差や揺らぎなく包括性を組み込むことを目指しています。

なぜFacebookはAIに本腰を入れねばならないのか

Facebookは、ユーザーのデータが濫用され、幹部たちの目の前でマーケターや広告主に売却される事態を許してきました。その後、システム障害に見舞われ、数百万人分のパスワードが平文で露出する事故も発生しました。そして決定的だったのが、ニュージーランド・クライストチャーチのモスク銃撃事件です。犯人が銃撃の様子をFacebookでライブ配信し、動画は人々がダウンロードできるだけの時間、ニュースフィード上に残ってしまいました。AIの無能さと開発者の怠慢は、ここで限界を超えたのです。

Facebookはすでに多くの反発を受けており、その過程で数十億ドル規模の損失を被っています。だからこそ、マーク・ザッカーバーグCEOは今年のF8初日の基調講演で「プライバシー」という言葉を何度も繰り返したのです。Facebookは信頼を失い、世界中のユーザーと政策立案者の忍耐の限界を超えてしまいました。AIがコンテンツを適切に理解できないままなら、今後数年のうちにサービス停止に追い込まれる可能性さえあります。

おそらくそれこそが、CTOを丸一日ステージに立たせ、「Facebookがあらゆる手段でユーザーを保護しようとしている」ことを伝えた最大の理由なのでしょう。

この取り組みは成功するのか

ザッカーバーグCEO自身が認めているように、これらの変化は一夜にして実現するものではありません。AIの欠陥を完全に根絶し、ヘイトコンテンツを永久に排除するためには、ビジネスモデル自体の変更が必要になるかもしれません。研究は進行中であり、こうした訓練モジュールの開発はまだ初期段階です。ただし、確かに言えることは、Facebookがこうした問題を真剣に受け止め始めたということです。優先課題として継続されれば、今年のF8で幹部たちが語った約束を実現できるかもしれません。

今こそFacebookは、新しい技術とより優れたAI訓練モジュールによって、プラットフォーム上のコンテンツを理解する必要があります。Facebookおよび傘下のプラットフォームや製品のユーザーは日々増加し続けているからです。Facebookはチャット・コミュニケーションサービスにとどまらず、広告とインフルエンサーマーケティングの拠点へと変貌を遂げ、サーバー上のデータは分類やラベル付けの限界を超えてしまいました。Facebook社のこれらの取り組みが実を結ぶのかどうか――答えはそう簡単に出ないでしょう。それまで私たちにできるのは、ザッカーバーグ氏が言葉を実行に移す姿を見守ることだけです。