ディープフェイクを検出できますか？

十分なソース画像があれば、ジョーダンピールをオバマ大統領に、ジミーファロンをジョンオリバーに、ジョンスノウを失望したゲームオブスローンズファンのスポークスマンにするのはそれほど難しくありません。最初は、ディープフェイクを捕まえるのはそれほど難しくありませんでした。最高のものでさえ、ぼやけ、ゆがみ、不気味な顔の違いなどの視覚的な景品があり、「オフ」に見えました。

ただし、これはいたちごっこゲームであり、ディープフェイクを検出する1つの方法を学ぶとすぐに、次世代が欠陥を修正するようです。それと戦うために、どの動画が私たちをだまそうとしているのかを把握するための信頼できる解決策はありますか？

視覚的な手がかり

アーティファクトは、インディジョーンズが美術館に置いたものだけでなく、画像や動画が操作された後に残された小さな異常でもあります。初期のディープフェイクでは、これらは人間の目で捕らえられることが多く、悪いディープフェイクには、エッジの周りのぼやけ、滑らかすぎる顔、二重の眉毛、グリッチ、または顔のフィット感に対する一般的に「不自然な」感触など、いくつかの警告サインがまだある場合があります。

ただし、ほとんどの場合、これらのアーティファクトは、ビデオデータを組み合わせてピクセルレベルで物事を調べる他のアルゴリズムにのみ表示されるようになりました。それらのいくつかは、鼻の方向が顔の方向と一致するかどうかを確認する1つの手法のように、かなり創造的になる可能性があります。違いは人間には理解できないほど微妙ですが、機械はそれでかなり優れていることがわかります。

生体認証の手がかり

しばらくの間、ディープフェイクのマスクを解除するための鍵は、「目を閉じた」ソース画像が比較的少ないために自然なまばたきパターンがないことであるように思われました。次世代のディープフェイクテクノロジーがより良いまばたきを組み込むのにそれほど時間はかかりませんでしたが、そのテクニックの効果はすぐに低下しました。

他の生体認証指標はまだ完全には解読されていませんが、個々の癖のように、使用されている言語のコンテキストをある程度理解する必要があるため、アルゴリズムを簡単にディープフェイクに自動化することはできません。驚いたときにすばやく点滅したり、質問をしたときに眉を上げたりするような小さな習慣は、ディープフェイクが拾って使用することができますが、（まだ）いつ自動的に判断できないため、必ずしも適切なタイミングで使用できるとは限りません。それらの動きを展開します。

AIがビデオ画像を使用して心拍を読み取ることができることには、ディープフェイクの検出以外にも多くのアプリケーションがありますが、心拍数を示す周期的な動きや色の変化を探すことで、AIによって生成された詐欺師を特定できます。最も明白な景品は、ディープフェイクにハートビートがまったくない場合ですが、ディープフェイクにはパルスがあることがよくあります。それでも、不規則性（顔のさまざまな部分がさまざまな心拍数を表示するなど）は、ディープフェイクを識別するのに役立ちます。

AIプロジェクト

多くの有名人がディープフェイクの問題を解決することに非常に興味を持っています。 Facebook、Google、MIT、Oxford、Berkeley、およびその他の多くの新興企業や研究者は、とりわけ上記の方法を使用して偽の動画を見つけるために人工知能をトレーニングすることで、この問題に取り組んでいます。

FacebookとGoogleの両方が取り組んでいることの1つは、俳優が物事を行っている高品質のビデオのデータセットを作成し、それを使用してディープフェイクを作成することです。これらのトレーニングを受けたAIは、ディープフェイクの明らかな兆候が何であるかを把握し、それらを検出する任務を負います。

もちろん、これは、研究者が最新のテクノロジーを使用してディープフェイクを生成し続ける限り機能します。つまり、発見された最新のディープフェイクトリックと、これらのアルゴリズムがそれらをキャッチできるようになるまでには、常に少しの遅れがあります。ただし、運が良ければ、実際のマウスを使用してディープフェイクを特定する実験が成功し、優位に立つことができます。

認証

ただし、検出テクノロジーは、100％の成功率を達成することはおそらくないため、ディープフェイクに対する完全な答えではありません。時間とお金をかけたディープフェイクは、おそらく多くのスニフテストと現在のAI手法に合格する可能性があります。そして、インターネットがどのように機能するかを覚えておきましょう。これらの偽物が捕らえられたとしても、とにかく一部の人々によって再循環され、信じられる可能性があります。

そのため、何らかの形式の検証メカニズムを用意することも重要です。つまり、どの動画がオリジナルであるかを証明するもの、または動画が変更されたかどうかを示すものがあることです。これは、Factom、Ambervideo、Axiomなどの企業が、動画に関するデータを不変のブロックチェーンにエンコードすることで行っていることです。

これらのプロジェクトの多くの背後にある基本的な考え方は、ビデオファイルに含まれるデータ、または特定のカメラによって生成されるデータを使用して、ビデオが改ざんされた場合に変更される一意の署名を生成できるということです。最終的に、ソーシャルメディアにアップロードされた動画には、元のアップロード者が元の動画の所有者であることを証明するためにブロックチェーンに登録できる認証コードを生成するオプションが付属する可能性があります。

もちろん、これらのソリューションには独自の問題があります。たとえば、ビデオエンコーディングによってファイル内のデータが変更され、ビデオコンテンツを実際に変更せずに署名が変更されたり、正当なビデオ編集によって署名が台無しになったりします。ただし、画像を使用して配信を確認したり、投資家のサポートを得たりする商取引など、リスクの高い状況では、このような認証レイヤーを使用すると、ディープフェイク関連の詐欺を防ぐことができます。

ディープフェイクはPhotoshopよりも危険ですか？

この時点では、静止画像でほとんどすべてのものをリアルに見せるためのテクノロジーが存在することを十分に認識しているため、画像はリアルではない可能性があるとみなしています。最終的には、Photoshopが現在画像編集を行っているのと同じくらい簡単で説得力のあるものになるのと同じような懐疑的な見方で、ビデオにアプローチし始める可能性があります。しかし、一般的な認識があっても、それほど遠くない将来に、タイミングの良い高品質のディープフェイクで始まる多くの現実の事件を想像するのは簡単です。