Facebook、リベンジポルノ撲滅へ本格始動——AIと画像認識で無断拡散を阻止

テクノロジーには、他のあらゆるものと同じように二面性があります。光の側面と影の側面。しかし残念ながら、私たちの耳に届くのは、恐怖や苛立ちを覚え、皮肉屋へと変えてしまうような出来事ばかりです。

他人の痛みを愉快そうに楽しむ者がいる退廃的な時代の中で、Facebookは私たちに一筋の希望をもたらしました。

これまで数々の告発や訴訟に直面してきたFacebookは、ついに人々のプライバシーを侵害するあらゆるコンテンツとの戦いに乗り出すことを宣言しました。ソーシャルネットワークの巨人である同社は、近年「リベンジポルノ」と呼ばれる深刻な問題の発生を抑えるため、一連の対策ツールと専門のトレーニングを受けたスタッフを導入します。

創設者兼CEOのマーク・ザッカーバーグ氏は、自身のFacebookへの投稿で次のように述べています。「これは間違った行為であり、多くの人を傷つけます。報告いただければ、当社はAIと画像認識技術を活用し、すべてのプラットフォーム上での共有を防ぎます」

対策ツールはどのように機能するのか？

新しい仕組みでは、同意なく投稿された親密な写真をユーザーが簡単に報告できます。報告を受けると該当画像にはフラグが立ち、Facebookで訓練を受けた専門チームが審査を行います。コミュニティ基準に違反していると判断されれば、画像は直ちに削除されます。さらに、有害なコンテンツと認定された場合には、投稿したユーザーのアカウントがブロックされる可能性もあります。

さらに注目すべきは、画像マッチング技術の活用です。一度削除された写真が再び悪用されることを防ぐため、同一または類似の画像がアップロードされようとした際には自動的に検知され、投稿者には警告が表示されます。これにより、コミュニティポリシー違反となる行為を未然に食い止める仕組みが整いました。

ニューヨーク・タイムズ紙は記事の中で、「同社はこうした親密な画像の報告・削除手順に関するガイドも公開しており、非合意ポルノ被害者向けホットラインを運営するサイバー市民権イニシアチブ（Cyber Civil Rights Initiative）などの安全団体とも提携している」と伝えています。

問題の発端となった米海兵隊スキャンダル

この問題が世間の大きな関心を集めたきっかけとなったのは、現役の海兵隊員が女性隊員のヌード写真やプライベートな写真を無断で投稿した事件でした。国防総省は調査委員会を設置し、事実関係の解明に乗り出しています。

こうした流れを受け、Facebookは独自の対策策定に動き、不適切な投稿を防ぐための一連のツールを開発しました。同社はこの有害な嫌がらせ行為に対抗する姿勢を示すだけでなく、Instagramもこの取り組みの対象に含めています。

まさに「ソーシャル（社会的）」な責任の在り方を問われる時代。今回の動きは、確かな前進として歓迎されるべきでしょう。