ディープフェイクは顔認証システムを欺けるのか？最新研究が明かす衝撃の結果

ディープフェイクやAI生成動画は、もはや私たちの生活に定着しつつあります。しかし、ここ数年でその品質と数は急速に向上・増加しており、国家安全保障や個人のプライバシーに対する懸念が一層高まっています。

とはいえ、匿名のネットユーザーがどれほど精巧な偽動画を作り上げようとも、高度な顔認識ソフトウェアを突破することはできないとされてきました。しかし、それが今、変わろうとしています。

顔認識APIを欺くことに成功

韓国・水原市にある成均館大学の研究チームは、現在のディープフェイク技術の精度を検証しました。オープンソースで広く利用されているディープフェイク動画生成ソフトウェアを使い、AmazonとMicrosoftの両APIの性能をテストしたのです。

研究者たちが使用したのは、ハリウッドセレブの顔でした。高精度なディープフェイクを作成するには、同一人物のさまざまな角度から撮影された大量の高画質画像が必要となりますが、一般人と比べてセレブの方がそうした画像を入手しやすいためです。

また、MicrosoftとAmazonのいずれも有名人向けの顔認識サービスを提供しているため、両社のAPIを研究のベンチマークとして採用しました。公開されているデータセットを用いて8,000件以上のディープフェイクを作成し、各動画から複数の顔画像を抽出して対象のAPIへ送信しています。

その結果、MicrosoftのAzure Cognitive Servicesでは、ディープフェイクによって78%の確率でシステムを欺くことに成功。Amazonの結果はやや良好で、送信された顔の68%が本物として認識されました。

ディープフェイク検出器はどうなのか？

ディープフェイク検出器は、ディープフェイクそのものとほぼ同じ仕組みで動作します。つまり、機械学習モデルを使って「ディープフェイク動画の見分け方」を訓練されたソフトウェアです。

ところが今では、超リアルな動画を作って検出器を騙すのではなく、すべてのフレームに敵対的サンプル（adversarial examples）を組み込み、AIシステムを混乱させる手法が登場しています。実際、この種のディープフェイク攻撃の成功率は78〜99%に達すると報告されています。

事態は悪化の一途

ディープフェイクは機械学習の応用技術です。多少なりとも説得力のあるものを作るには、同じ人物の顔をさまざまな角度や表情で撮影した何百枚もの画像が必要になります。

膨大なデータが必要であることから、「リスクがあるのはセレブや政治家など、ネット上での露出が多い人々だけ」と考えられがちでした。しかしそういう時代は終わりつつあります。

調査会社Deeptraceによると、2019年10月から2020年6月までのわずか9ヶ月足らずで、ネット上のディープフェイクの数は330%増加しました。さらに、ディープフェイク制作者が使うソフトウェアやアルゴリズムは、ますます強力になり、誰でも簡単に入手できるようになっています。

ディープフェイクのリスクがあるのは誰か？

ディープフェイクが初めて一般に知られるようになった頃、主な懸念はプライバシーと国家安全保障でした。政治家や政府職員の映像がもはや信用できなくなることを、人々は恐れていたのです。

ディープフェイクがもたらす安全保障上のリスクを軽視するのは無責任ですが、複数の調査によれば、ディープフェイク制作者はまだ政治的な撹乱にはさほど関心がないようです。ネット上のディープフェイク動画の大半は、セレブのインタビューを使った面白動画と、映画やポルノ素材の2つのカテゴリーに分けられます。

今回の研究は、APIを欺ける高品質なディープフェイクを確保するためにセレブの顔を使用して行われたものであり、少ないデータではディープフェイクを作れないという意味ではありません。もちろん、高度な顔認識システムを欺くことは難しいでしょうが、人間を騙すには十分な説得力を持つ可能性があります。

今日では、ネット上に何らかの足跡を残している人なら誰でも、説得力のあるディープフェイクを作られる危険性があります。必要なのはあなたの写真数枚と、場合によっては出演している動画だけ。完成したディープフェイクの品質は低くても、作成自体は十分可能であり、深刻な被害をもたらしかねません。

未来はまだ不透明

ディープフェイクはすぐになくなることはないため、その将来については多くの矛盾する予測が飛び交っています。

ネット上で目にするあらゆる映像が信用できなくなる、終末的なサイバー社会の到来を予想する人もいれば、ディープフェイクをアニメーションになぞらえ、コンテンツ制作の分野で新たな将来性を開く技術だと楽観視する人もいます。どちらの未来が訪れるのか、まだ結論は出ていません。