ディープフェイクは見抜けるのか？進化する偽造動画と最新の検出技術

十分な量の元画像さえあれば、ジョーダン・ピールをオバマ大統領に、ジミー・ファロンをジョン・オリバーに、あるいはジョン・スノウを「ゲーム・オブ・スローンズ」に失望したファンの代弁者に仕立て上げることは、それほど難しいことではありません。当初のディープフェイクの見分けはさほど困難ではなく、最精鋭のものでも、ぼやけ、歪み、どこか不気味な顔つきといった視覚的な手がかりがあり、「何かがおかしい」と感じさせました。

しかし、これはイタチごっこです。新しい検出手法が確立された途端、次世代のディープフェイクがその弱点を克服してしまうのが現状です。では、私たちを騙そうとする動画を見破るために、信頼できる解決策はあるのでしょうか？

視覚的な手がかり

「アーティファクト（人工的な痕跡）」とは、映画『インディアナ・ジョーンズ』が博物館に収める品々だけを指す言葉ではありません。画像や動画が加工された際に残ってしまう小さな異常もまた、アーティファクトと呼ばれます。初期のディープフェイクでは、こうした痕跡を人間の目で捉えられることが多く、今でも出来の悪い偽造動画には、輪郭のぼやけ、過度になめらかに処理された顔、二重の眉、グリッチ（映像ノイズ）、顔の馴染み方全般に感じる「不自然さ」といった警告サインが現れることがあります。

しかしながら現在では、技術の進歩により、これらの痕跡を検出できるのは、動画データを精査しピクセルレベルで分析するアルゴリズムだけになりつつあります。中には非常に独創的な手法もあり、例えば「鼻の向きが顔全体の向きと一致しているか」をチェックする技術などがあります。この差は人間には感知できないほど微細ですが、機械にとっては容易に識別できるものなのです。

生体情報による手がかり

一時期、ディープフェイクを見破る鍵は「まばたきの自然さの欠如」にあると考えられていました。「目を閉じた状態」の元画像が相対的に少ないため、偽造動画のまばたきが不自然になりやすいというわけです。しかし、次世代のディープフェイク技術はすぐにより自然なまばたきを組み込むようになり、この手法の有効性は急速に低下しました。

とはいえ、まだ完全には攻略されていない生体指標もあります。それは、言語の文脈理解を必要とするため、アルゴリズムが簡単には自動化できない個人の癖です。驚いたときに素早くまばたきをする、質問するときに眉を上げる――こうした小さな習慣はディープフェイクに組み込むことはできますが、その動作をいつ使うべきかを自動的に判断することは（まだ）できないため、タイミングが不自然になることがあります。

また、動画映像から心拍を読み取るAI技術は、ディープフェイク検出以外にも多くの応用先がありますが、心拍数を示す周期的な動きや色の変化を探すことで、AI生成の偽物を特定するのに役立ちます。最も明白な兆候は、ディープフェイクに心拍がまったくない場合です。ただし、実際には脈のある偽造動画も少なくありません。それでも、顔の部位によって心拍数が異なるといった不規則性は、ディープフェイクの識別に依然として有効な手がかりとなります。

AIプロジェクトの取り組み

ディープフェイク問題の解決に強い関心を持つ大手プレイヤーは数多く存在します。Facebook（現Meta）、Google、MIT、オックスフォード大学、UCバークレー校をはじめ、多数のスタートアップや研究者たちが、前述した手法などを活用して偽造動画を見分けるようAIを訓練することで、この問題に取り組んでいます。

FacebookとGoogleが共に推進しているのは、俳優がさまざまな動作をする高品質な動画のデータセットを作成し、それを基にディープフェイクを生成するという取り組みです。こうしたデータで訓練されたAIは、ディープフェイク特有の兆候を学習でき、偽造動画の検出業務を担えるようになります。

もちろん、これは研究者が常に最新の技術を使ってディープフェイクを作り続けている限りにおいてのみ機能します。つまり、最新の偽造テクニックが登場してから、アルゴリズムがそれを検出できるようになるまでには、常にある程度のタイムラグが発生するのです。一方で期待したいのは、訓練されたマウスを使ってディープフェイクを識別する実験が実を結び、私たちに新たな優位性をもたらしてくれることかもしれません。

認証技術による対策

しかし、検出技術だけがディープフェイクに対する完全な答えにはなりません。成功率100%を実現することは、おそらく永遠にないでしょう。時間と資金をしっかりかけたディープフェイクなら、多くの精査や現行のAI検出方法をすり抜けられる可能性があります。さらに忘れてはならないのは、インターネットの仕組みです。仮に偽物が検出されたとしても、再拡散され、一部の人々には信じ込まれてしまうでしょう。

だからこそ、何らかの検証メカニズム――どの動画がオリジナルなのかを証明する手段や、動画が改変されているかどうかを示せる仕組み――を持つことも重要なのです。Factom、Ambervideo、Axiomといった企業は、動画に関するデータを改変不可能なブロックチェーン上に記録することで、これを実現しようとしています。

こうしたプロジェクトの多くに共通する基本的な考え方は、動画ファイルに含まれるデータや特定のカメラが生成したデータから固有の署名（シグネチャ）を生成し、動画が改ざんされるとその署名が変化するようにするというものです。将来的には、ソーシャルメディアにアップロードされる動画に認証コードを生成するオプションが備わり、元のアップロード者がそのコードをブロックチェーンに登録することで、自分がオリジナル動画の所有者であることを証明できるようになるかもしれません。

もちろん、これらのソリューションにも固有の課題があります。例えば、動画のエンコード処理によってファイル内のデータが変化し、動画の中身は変わっていないのに署名が変わってしまうケースや、正当な動画編集によって署名が崩れてしまうケースなどです。それでも、納品確認や投資家への説明など、画像の真正性が重要となる商取引のような場面では、こうした認証レイヤーがディープフェイク関連の詐欺防止に大きく役立つはずです。

ディープフェイクはPhotoshopより危険なのか？

今や私たちは、静止画が本物であるとは限らないと当然のように考えています。ほぼどんなものでも本物らしく見せられる技術が存在することを、私たちは十分に知っているからです。やがて、動画の偽造が現在のPhotoshopによる画像編集並みに簡単かつ説得力のあるものになれば、動画に対しても同じような懐疑心を持つようになるかもしれません。しかし、そうした一般的な認識があったとしても、そう遠くない未来に、絶妙なタイミングで拡散された高品質なディープフェイクから数多くの現実のトラブルが始まるシナリオは、容易に想像できてしまうのです。