ディープフェイクの6つの危険性と見分け方を徹底解説

オンライン上のアイデンティティがあなた自身と直結する現代社会では、自分の顔や声が完璧に複製されるという可能性は深刻な懸念材料です。そしてディープフェイク技術の登場により、私たちはまさにその現実に直面しようとしています。

この技術がますます安価で手軽になる中、ディープフェイクにはどのような危険性が潜んでいるのでしょうか。さらに、巧妙化するディープフェイクと本物を見分けるには、どうすればよいのでしょうか。

ディープフェイクとは?

ディープフェイクとは、動画や画像に写っている人物を、別人の顔や姿に置き換えて作られたメディアのことです。「Deep Learning(深層学習)」と「Fake(偽物)」を掛け合わせた造語であり、機械学習アルゴリズムと人工知能(AI)を用いて、本物そっくりながらも完全に合成された映像や画像を生成します。

最も単純なケースでは、ある人物の顔を別のモデルの体に貼り付けるだけのものもあります。しかし技術の進歩は目覚ましく、現在では意図しない一般の人々を偽のアダルト動画やフェイクニュース、悪質なデマなどに組み込む事例が後を絶ちません。

ディープフェイクがもたらす6つの危険性

偽の画像は昔から存在しました。何が本物で何が偽物かを見極めることは、デジタルメディアが普及した現代では日常的な作業の一つです。しかし、ディープフェイク技術が生み出す問題は質的に異なります。従来の偽画像・偽動画とは比べ物にならないほどの精度を実現しているのです。

広く知られるようになった初期のディープフェイク動画の一つに、俳優ジョーダン・ピールがバラク・オバマ元大統領になりすまし、まさにこの問題そのものについて語る動画がありました。声の違和感や顔の粗いノイズなど、荒削りな仕上がりではありましたが、ディープフェイク技術の可能性を如実に示すものでした。

また、「ウィル・スミスが『マトリックス』のネオを演じていたら?」と想像したことはありませんか。そんな夢のような映像も、ディープフェイクなら実現できます。

こうした動画自体は悪意のないもので、制作には数百時間に及ぶ機械学習が必要でした。しかし、同じ技術は学習時間と計算資源さえあれば誰でも利用できます。当初は参入障壁が高かったディープフェイク技術も、技術の向上とともにハードルは急速に下がっており、悪意ある用途に使われるリスクが高まっています。

1. 有名人の顔を使った偽アダルトコンテンツ

ディープフェイク技術による最大の脅威の一つが、いわゆる「ディープフェイクポルノ」と呼ばれる合成アダルトコンテンツです。エマ・ワトソン、ナタリー・ポートマン、テイラー・スウィフトといった著名な女性セレブの顔を無断で使用した偽のアダルト動画が、数万本規模で存在するとされています。

これらはすべて、有名人の顔をアダルト女優の体に合成する機械学習アルゴリズムによって作られており、各アダルトサイトで数千万回再生されています。にもかかわらず、こうしたサイト側は有名人のディープフェイクに対してほとんど対応を行っていません。

ディープフェイク検出・分析企業SensityのCEO兼チーフサイエンティストであるジョルジョ・パトリーニ氏は次のように指摘します。「削除やフィルタリングに取り組む強い動機がない限り、何も変わりません。人々は何のペナルティも受けずに、数億人が閲覧するサイトへこの種のコンテンツをアップロードし続けるでしょう」

ディープフェイク制作者の中には「被害者はいない」と主張する者もいますが、これらの動画は搾取的であり、決して犠牲者のいないものではありません。

2. 一般人の女性を標的とした偽アダルトコンテンツ

有名人の合成ポルノよりさらに悪質なのは、何も知らない一般人の女性を題材にした偽アダルトコンテンツです。Sensityの調査によると、メッセージングアプリ「Telegram」上のディープフェイクボットが、10万枚を超えるヌード合成画像を生成していたことが判明しました。多くの画像はSNSアカウントから盗んだもので、友人、恋人、妻、母親など身近な女性が標的になっています。

このボットはディープフェイク技術における大きな進化といえます。利用者はディープフェイクや機械学習、AIに関する専門知識を一切必要とせず、画像を1枚アップロードするだけで自動的に処理されます。しかも、女性の画像にのみ対応しており、プレミアム契約(生成枚数の増加、透かしの除去)も驚くほど安価です。

有名人のディープフェイクと同様、Telegramボットによる合成画像は搾取的で暴力的かつ非道徳的です。夫、パートナー、家族、同僚、上司の受信箱に届けば、人生を破壊しかねません。恐喝などの脅迫行為に悪用される可能性も非常に高く、リベンジポルノといった既存の問題をさらに悪化させます。

Telegramへの投稿は別の問題も引き起こします。Telegramはプライバシー重視のメッセージングサービスで、ユーザーへの干渉を最小限に抑える方針です。ポルノ系ボットの削除ポリシーは存在しますが、このケースでは実際の対応が取られていません。

3. デマ・いたずらコンテンツ

ジョーダン・ピール版オバマの動画で彼自身が警告していたように、ディープフェイク最大の懸念の一つは、あまりにもリアルな偽動画が公開され、悲劇につながることです。

最も極端なシナリオとしては、ディープフェイク動画が戦争を引き起こしうるとの指摘もあります。それ以外にも重大な影響が考えられます。例えば、大企業や銀行のCEOが市場に衝撃を与える発言をするディープフェイク動画が出回れば、株価暴落を招きかねません。極端な話に思えますが、人間が確認・検証する前に、グローバル市場はニュースに即座に反応し、自動売買による売却が実際に起こるからです。

もう一つ考慮すべきは「量」の問題です。ディープフェイクの制作コストが低下するにつれ、同一人物について、異なるトーン・場所・スタイルで同じ偽のメッセージを大量に流すことも可能になります。

4. 本物の証拠の否認

デマコンテンツの延長線上にあるのが、この問題です。ディープフェイクが驚くほどリアルになれば、人は内容にかかわらず「その動画は本当に本物なのか?」と疑うようになります。

もし誰かが犯罪を犯し、唯一の証拠が動画だった場合、「あれはディープフェイクだ、偽の証拠だ」と主張することを止められますか?逆に、ディープフェイクの動画証拠をわざと仕掛けて、他人に罪を着せることも可能です。

5. 偽の専門家プロフィールとソーシャルコネクション

ディープフェイクを使った「専門家になりすます」事例はすでに発生しています。LinkedInやTwitterには、戦略的に重要な組織の要職に就いているようなプロフィールが存在しますが、その人物は実在せず、ディープフェイク技術で生成された可能性が高いとされます。

ただし、これはディープフェイク固有の問題ではありません。政府、諜報機関、企業は昔から偽のアカウントやペルソナを使って情報収集、アジェンダの推進、世論操作を行ってきました。

6. フィッシング詐欺、ソーシャルエンジニアリング、その他の詐欺

セキュリティの分野では、ソーシャルエンジニアリングはすでに深刻な問題です。人は他者を信頼したい生き物であり、その信頼こそがセキュリティ侵害やデータ窃盗につながることがあります。ソーシャルエンジニアリングは往々にして電話やビデオ通話など、個人的な接触を必要とします。

もしディープフェイク技術を使って役員になりすまし、セキュリティコードやその他の機密情報へのアクセスを得ることができれば、ディープフェイク詐欺が洪水のように押し寄せることになるでしょう。

ディープフェイクの見分け方・検出方法

ディープフェイクの品質が向上し続ける中、見分ける方法を知ることは重要です。初期の頃は、ぼやけた画像、動画の乱れやアーティファクト(ノイズ)など、比較的簡単な特徴がありました。しかし、こうした兆候は減少しており、一方で技術の利用コストは急速に下がっています。

ディープフェイクを完全に検出する万能な方法はまだありませんが、以下の4つのコツが役立ちます。

1. 細部をチェックする:ディープフェイク技術は進化していますが、苦手な部分も残っています。特に動画内の細かいディテール、髪の動き、視線の動き、頬の構造や発話時の動き、不自然な表情などです。視線の動きは大きな手がかりになります。瞬きは以前ほど有効な判断材料ではなくなりましたが、眼球の動きは依然として課題です。
2. 感情表現に注目する:細部と関連するのが感情です。人が強い主張をする際、表情にはさまざまな感情が表れます。ディープフェイクは実在の人間と同じ深みのある感情表現を再現できません。
3. 不整合を探す:現在の動画品質は史上最高水準です。スマートフォンでも4Kでの撮影・送信が可能で、政治指導者が声明を出す場面には最高峰の録画機材が並んでいます。したがって、映像・音声の両面で低品質な記録は大きな不整合といえます。
4. 出所を確認する:その動画は認証済みのプラットフォームで配信されていますか?SNSプラットフォームは、世界的に有名な人物になりすますことを防ぐため認証制度を設けています。システムには課題もありますが、特に怪しい動画がどこから配信・ホストされているかを確認すれば、真贋の判断に役立ちます。また、逆画像検索を行えば、その画像がインターネット上のどこに掲載されているかを調べられます。

ディープフェイク検出・防止のためのツール

ディープフェイクとの戦いは、あなた一人で行うものではありません。大手テック企業はディープフェイク検出ツールの開発を進めており、プラットフォーム側も恒久的なブロック策を講じ始めています。

例えば、マイクロソフトの検出ツール「Microsoft Video Authenticator」は数秒以内に解析を行い、コンテンツの真偽をユーザーに通知します。また、Adobeはコンテンツにデジタル署名を付与し、改ざんから守る機能を提供しています。

FacebookやTwitterは悪意のあるディープフェイクをすでに禁止しており(ウィル・スミス版ネオのような娯楽目的のものは対象外)、Googleは偽音声に対抗するための音声分析ツールを開発中です。

偽メディアを見抜くスキルを磨きたい方は、フェイク判定テストのリストをチェックしてみてください。

ディープフェイクの時代はもう来ている――そして改善され続ける

現実として、2018年にディープフェイクが主流になって以来、その主な用途は女性への加害です。有名人の顔を使った偽ポルノの制作であれ、SNSの写真から服を脱がせる画像生成であれ、そのすべてが世界中の女性を搾取し、操作し、貶めることに焦点を当てています。

ディープフェイクの猛威が今後さらに拡大することは疑いようがありません。この技術の台頭は公衆にとって危険でありながら、その前進を食い止める有効な手段はほとんど存在しないのが実情です。