AIと動画編集のダークサイド――ディープフェイク技術が社会にもたらす危機

この物語は、2018年8月22日にUCバークレー（カリフォルニア大学バークレー校）の研究チームが発表した論文から始まります。この論文では、コンピュータが人間の姿に「デジタルスケルトン（仮想骨格）」を重ね合わせることで、まるで踊りの上手い人物であるかのように見せる技術が実証されました。楽しそうな話に聞こえますよね？

リズム感のない私たちにとっても、マイケル・ジャクソンのように踊る自分の動画を作れるなら、ぜひ試してみたいところです。しかし、人工知能を動画編集・レンダリングソフトウェアと組み合わせるというこの流れは、技術が悪用されれば極めて深刻な結果を招きかねません。

研究者たちの成果とは

先述の論文は、機械学習を活用して「異なる動画間で人間の動きを転送する」手法の実証でした。つまり、ある人物の動きを別の人物の姿に重ね合わせることができるのです。実際の成果は以下のようになっています。

出来栄えはぎこちなく、どこか滑稽に見えますが、こうした技術が今後も発展し続ければ、私たちが将来直面する現実は、社会全体にとって大きな試練となる可能性があります。ここでは「AI」という言葉をやや広い意味で使っていますが、この動画編集技術はAIの概念を実装したものであり、まさに本格的な人工知能への先駆け（例えば、誰かを特定の状況に「思い描く」能力）だと言えるでしょう。

ディープフェイクについて考えてみよう

YouTubeで「ディープフェイク」と検索してみてください。セレブの顔を入れ替えた職場でも閲覧できる動画や、その場で生成された半分ほど説得力のある偽物が数多く見つかるはずです。多くは冗談半分で作られたものですが、このソフトウェアを悪意を持って扱う者も少なくありません。

ディープフェイクとは、ある人物の顔の特徴を抽出し、別の人物の顔に重ね合わせる技術です。どこに話が向かっているのかお分かりでしょうか？もしピンとこなければ、はっきりお伝えします。この技術を使って「リベンジポルノ」動画を作る人が実際に存在するのです。被害者は、自分の顔がわいせつなコンテンツに勝手に使われているのに、訴える手段もほとんどないという恐ろしい状況に置かれます。動画を見る限り、まるで本人が行為を行ったかのように見えてしまうのです。

さらに高度なオーバーレイ技術が実現すれば、コンピュータが仮想骨格を描き出し、悪意ある者が人物全体を不適切な状況へ合成できるようになります。こうして出来上がるのは、証拠捏造に悪用されかねないツールの寄せ集めです。例えば、犯行現場の映像の中で、銃撃犯がまったくの別人の姿に見せかけられる可能性もあるのです。

法的にはどのような影響があるのか

ほとんどの国には、出来事の捏造や虚偽の証言を明確に定義した法制度がすでに整備されています。個人の「仮想的なりすまし」に関して言えば、これらの技術を使って動画を改ざんする行為は、すでに既存の法律の適用範囲内にあると考えられます。

問題が複雑化するのは、裁判所が動画証拠を認める場面です。今の技術でここまで動画を加工できるのですから、5年後には何が可能になっているのか想像してみてください。裁判所は、提出された動画の信頼性をどう判断すればいいのでしょうか？複製をオリジナルと寸分違わぬ動きにさせることは難しくありません。すべてがデジタルデータなのですから。

実は、裁判所はすでに動画証拠の採用に非常に消極的です。技術の進歩は、むしろ彼らをさらに追い詰めるかもしれません。改ざんされた映像を採用してしまうことを恐れるあまり、映像で記録されたものすべてを信用できなくなる事態さえ起こりうるのです。

結局のところ、私たちが望むと望まざるとにかかわらず、この種の新技術は私たちのもとに留まり続けるでしょう。私たちはそれに応じて適応していく必要があります。最初の一歩として有効なのは、「1980年代に比べれば、はるかに少ないリソースとスキルで動画を偽造できる時代になった」という事実への認識を広めることです。そうすることで、人々は目にする動画に対して自然と懐疑的になっていくはずです。

「技術はますます進歩していきます…人々は怖がるでしょう。そして私は心から彼らに同情します。しかし、一度生まれた技術は無かったことにはできないので、私たちはそれと共に前進するしかありません。私はディープフェイクのアルゴリズムそのものとその潜在的可能性については支持しています。現在の悪用とは違う意味で。とはいえ、これがインターネットというものです」

これは、2018年2月にThe Vergeが公開した記事の中で、あるRedditユーザーが語った言葉です。

あなたは、このような技術への認知を広めるために何が必要だと考えますか？また、私たちは他にどのように適応すべきでしょうか？ぜひコメント欄で意見を交わしましょう！