Facebook F8 2019、2 日目:Facebook が人工知能を再発明する必要がある理由

人工知能は長年にわたって成長しており、Facebook は AI の開発と概念をカメラやニュース フィード分析などのさまざまな機能に統合してきました。人工知能は、リソースの利用を最適化し、エクスペリエンスを簡素化することで、人々の生活を楽にするはずです。ソーシャル メディアでは、AI を使用してユーザーに次世代のコミュニケーションおよびインタラクション メディアを紹介し、愛する人とスマートにつながることを支援しています。しかし、繰り返しになりますが、Facebook の AI は、ニュース フィードのフィルター処理やユーザーのプライバシーの保護に惨めなほど失敗しており、世界最大のソーシャル メディア プラットフォームでヘイトスピーチを自由に広めることで倫理に違反しています。 Facebook の F8 基調講演イベントの 2 日目では、AI と AI セキュリティがイベントの大部分を占め、Facebook CTO の Mike Schroepfer が主導しました。 Facebook が将来 AI を使って何をしようとしているのか見てみましょう。

Facebook の人工知能

Facebook の人工知能の主な用途は、ニュース フィードを調べることです。 AI テクノロジーを使用して、ヘイトスピーチ、暴力、人種差別、政治情報など、Facebook の価値観や世界中の法律に違反するコンテンツを確認しています。 AI は、ユーザーの検索、設定、更新を読み取るためにも使用されます。これにより、Facebook はユーザーに適切な種類の広告を表示したり、友人の提案やスポンサーの投稿をフィルタリングしてフィードに追加したりできます。これが Facebook のビジネス モデルを支えています。

Facebook が AI を使用する方法

Facebook は高度な自然言語処理 (NLP) を使用して AI をトレーニングし、あらゆる種類の形式のさまざまな種類のコンテンツの違いを理解できるように支援しています。 NLP は多言語埋め込みを使用して、AI がさまざまな言語のコンテンツを理解し、世界中のニュース フィードから有害なコンテンツを削除できるようにします。

難しさ

多言語の埋め込みがあるにもかかわらず、Facebook AI がすべてのコンテンツをキャプチャすることは非常に困難です。世界には、ほぼ同数の民族的背景を持つ人々によって書かれ、話される言語が 6,000 以上あります。言語理解に関する膨大な知識を AI にトレーニングすることは非常に困難です。 Facebookが使用するAIは、システムにアップロードされたラベル付きデータから学習し、そこから学習します。データは膨大であり、AI の効果的なトレーニングのためにラベル付けすることは、開発者にとって困難な作業です。また、取得するデータの量が増えるほど、人的エラーの余地が大きくなります。

写真や動画形式のデータを学習することも頭痛の種です

特にInstagramの買収後、Facebookは写真を理解することに関して広く成長しました. Facebook は、画像のあらゆる側面のアーキテクチャを理解するために、Computer Vision と Panoptic Feature Pyramid Network (Panoptic FPN) の概念を組み込みました。パノプティック FPN は、画像の背景と共にあらゆる画像構造を理解するようにさえ成長しました。これにより、Facebook の AI は、ウェブ上で画像の形で入手可能な有害なコンテンツをさらにフィルタリングできるようになりました。

しかし、動画コンテンツを理解することは Facebook AI にとって大きな欠点であり、その機械学習は、Facebook にアップロードおよび共有された動画を介してヘイトスピーチや暴力を回避することに関して、複数のレベルで失敗しています。 Facebookは、ハッシュタグをデータラベルとして使用して、AIがビデオコンテンツからも学習できるようにしたり、少なくともハッシュタグによって提供される情報からデータの関連性を判断したりしようとしていると主張しています。しかし、目標に達していません.

Facebook AI はどこで失敗しますか?

Facebook AI は 教師あり学習 で動作します 人間の開発者によってラベル付けされたデータセットから AI が学習するフレームワーク。過去数年間で、Facebook の人口は地球上の総人口のほぼ 3 分の 1 に達しました。これは、書き込み、音声、およびビデオ形式の余剰データが数秒で Facebook にアップロードされることを意味します。一方、AI には、このコンテンツをリアルタイムで評価する仕事があります。人間の関与があるため、徹底的な調査は、データのラベル付けの遅れや、AI によって読み取られるデータセットの欠陥につながる可能性もあります。これにより、コンテンツ検出でエラーが発生する可能性があり、ニュース フィードにアップロードされたすべてのユーザー コンテンツに対して AI が同じように機能しない可能性があります。

Self-Supervised AI:有害なコンテンツを削除するための Facebook のバックアップ計画

F8 2019 の 2 日目に、CTO の Mike Schroepfer 氏は、Facebook が研究者や開発者を率いて、自己教師あり学習をサポートするシステムを設計していると発表しました。このような AI システムは、データセットやラベル付けなしで情報を理解できるため、自律的で自己認識的になります。自己管理型 AI には、膨大な量のデータを供給することができます。ただし、データ全体が生である必要はなく、そのままフィードされます。 AI マシン用のトレーニング モジュールを設計するには、ユーザーがコンテンツまたはデータから一部の情報を削除し、欠落しているビットをマシンが独自に認識できるようにする必要があります。この種のトレーニングにより、マシンは Facebook に掲載されるコンテンツの関連性を高め、ポリシーや法律に照らしてより適切に精査できるようになります。

AI のための包括的なトレーニング:Facebook の AR ビジネスをより倫理的かつ安全にする

Portal と Spark AR を使用して、Facebook は AR および VR テクノロジー ビジネスで大きなベンチャーを計画しています。ただし、スマートな技術では、豊かなユーザー エクスペリエンスを提供するためにスマートな AI が必要です。ポータル カメラは、拡張現実の概念に基づいて設計されており、次世代の顔認識およびスマート ビデオ チャット プラットフォームを導入するための鍵となります。しかし、これらのカメラや AR/VR ヘッドセットは、人からのコマンドを理解するのに偏りがあることがわかっています。レンズは肌の色と性別を区別することがわかっていますが、すべてのユーザーに同様のユーザーエクスペリエンスを提供することはできません.さらに、これは人種差別や性差別を助長します。世界中での批判の後で、これは Facebook が望んでいないことです。

そのため、Facebook は、この問題を根絶するために包括的な AI を構築すると発表しました。このために、Facebook の AR/VR セクションの戦略部門を率いるナイジェリア系アメリカ人の Lade Obamehinti がいます。研究者は、さまざまな照明設定で AI カメラをテストし、肌の色が異なる人々を使用して、AI がエラーや変動なしに学習モジュールに包括性を組み込んでいることを確認します。

Facebook が AI に取り組む必要があるのはなぜですか?

Facebook は人々のデータが悪用されるのを許し、そのデータは当局の目の前でマーケティング担当者や広告主に販売されました。その後、Facebook は電力サージに見舞われ、何百万人ものユーザーのパスワードがプレーン テキストで公開されました。そして、AI の無能さと開発者の無知のレベルを超えたのは、ニュージーランドのクライストチャーチに住む男性が、モスクで人々を何度も撃ち殺したビデオを Facebook でライブストリーミングしたときです。ビデオはストリーミングされ、人々がダウンロードできるようになるまで、十分な期間 FB ニュース フィードにとどまりました。

Facebookはすでに多くの反発を受けており、その過程で数十億ドルを失っています。これが、今年の F8 イベントの 1 日目に Mark Zuckerberg が「プライバシー」という言葉を 100 万回も使用した理由です。 Facebook は影響力を失い、世界中のユーザーと政策立案者の両方の忍耐の限界を回避しました。 Facebook が AI にコンテンツを理解させなければ、今後数年で閉鎖に直面する可能性があります。

おそらくそれが、Facebook が CTO を 1 日中ステージに立たせ、Facebook がユーザーを保護するために何をしようとしているのかをユーザーに知らせることでユーザーを安心させた唯一の理由でした.

この動きは成功するでしょうか?

ザッカーバーグは、これらの変化が一夜にして起こるものではないことを認めました。 AI の欠陥を完全に根絶し、Facebook からヘイト コンテンツを永久に削除するには、Facebook はビジネス モデルを変更する必要があるかもしれません。研究は進行中であり、そのようなトレーニング モジュールの開発は初期段階にあります。ただし、1 つ言えることは、Facebook がそのような問題を真剣に受け止め始めているということです。そして、それが優先されれば、同社は今年の F8 で役人が行った約束を果たすことができるかもしれません.

Facebook が、FB のコンテンツを理解するための新しいテクノロジーとより優れた AI トレーニング モジュールを開発する時が来ました。特に、Facebook やその他の完全所有のプラットフォームや製品のユーザーが日々増加する傾向にあることを考えると. Facebook がチャットや通信サービスとともに広告や影響力のあるポータルに変わって以来、そのサーバー上のデータは分類やデータ ラベル付けの限界を超えています。 Facebook Inc. によるこれらの動きが会社を助けるかどうか?これに対する答えは単純ではないかもしれません。それまで、私たちにできることは、ザッカーバーグ氏が彼の言葉をどのように実行するかを待つことです.