Facebook Messenger、AIを活用して詐欺や偽アカウントからユーザーを守る新機能をリリース

Facebook（Meta）は木曜日、Messenger向けの新しい安全機能を発表しました。この機能の目的は、ユーザーを騙そうとする悪質なグループによる被害を最小限に抑えることです。AIの力を借りて、不審な行動がないかアカウントをスキャンします。

この発表により、Facebookはエンドツーエンド暗号化を放棄しない方針を明確にしました。ユーザーのプライバシー保護を弱めることなく、不正行為を検出し、抑制できるとしています。

新機能の内容とは？

今回のアップデートでは、Messengerに独自の機能が追加されました。金銭を狙う詐欺師や児童虐待の疑いがある人物からのメッセージが届いた際、ユーザーは警告メッセージを受け取ることができます。

この機能は3月にAndroid向けに展開が開始され、今回ついにiOSにも提供されることになりました。

18歳未満の未成年の場合、知らない人からメッセージが送られてくると、Facebookは警告メッセージを表示します。これにより、未成年者が見知らぬ大人とやり取りする際に、注意を払うよう促されます。

この機能は、サービスのアルゴリズム変更に伴い偽の友達リクエストが急増したことが確認されたことを受けて導入されたものです。

Facebookはどのように不審な通信を検出するのか？

この機能は素晴らしい取り組みですが、Facebookの過去の経緯を考えると、同社を全面的に信頼するのは難しいのが現状です。「Facebookはどうやってこれらのメッセージを検出するのか？」「データを収集するのではないか？」といった疑問やセキュリティ上の懸念が自然と浮かびます。

その答えとなるのが機械学習です。FacebookはMessenger全体で機械学習分析を活用し、悪意のある意図を持つ人物を特定します。重要なのは、メッセージの内容そのものを解析するのではなく、メタデータに基づいて不審な活動を検出するという点です。つまり、Messengerが提供するエンドツーエンド暗号化はそのまま維持されます。

実際の画面では、なりすましアカウントと本物の友達のプロフィールが並べて表示され、詐欺師をブロックするよう促されます。

不審な活動が検出されるとどうなる？

不審な活動が検出されると、アプリは問題の内容を説明するチャットウィンドウを表示し、偽ユーザーを「ブロック」または「無視」する選択肢を提示します。

この機能の狙いは？

この機能には二つの大きな目的があります。一つは詐欺師による被害を減らすこと、もう一つは「味方」や「友人」を装う大人から、若者をオンラインでのいじめや搾取から守ることです。新しいアップデートでは、プラットフォーム上で友達関係にない大人と未成年の間のやり取りが制限されます。

今回のアップデートは、詐欺師や偽アカウントからユーザーを保護するというFacebookの継続的な取り組みの一環です。プラットフォームのエンドツーエンド暗号化は維持され、最も脆弱な存在である未成年者がオンライン犯罪の被害に遭わないよう、強固に守られることになります。

皆さんはどう思いますか？ぜひコメント欄でご意見をお聞かせください。