ディープフェイクの6つの主な危険性とそれらを見つける方法

あなたのオンラインアイデンティティがあなたに直接リンクしている世界では、完全な複製の可能性が心配されています。しかし、それこそが、ディープフェイクテクノロジーの出現で私たちが直面していることです。

テクノロジーが安価で使いやすくなるにつれて、ディープフェイクの危険性は何ですか？さらに、ディープフェイクと本物の取引をどのように見つけることができますか？

ディープフェイクとは何ですか？

ディープフェイクとは、動画や画像に写っている人物が他の人物に置き換えられるメディアに付けられた名前です。この用語は「ディープラーニング」と「フェイク」のかばん語であり、機械学習アルゴリズムと人工知能を使用して、現実的でありながら合成的なメディアを作成します。

最も基本的には、別のモデルに顔が重なっている場合があります。急速に発展している最悪の場合、ディープフェイクテクノロジーは、疑いを持たない被害者を偽のポルノビデオ、偽のニュース、デマなどに結び付けます。

テクノロジーの起源について詳しくは、ディープフェイクの説明者をご覧ください。

ディープフェイクの危険性は何ですか？

偽の画像は常に存在していました。何が偽物で何がそうでないかを理解することは、特にデジタル化されたメディアの台頭後、人生の一般的な部分です。しかし、ディープフェイクテクノロジーが生み出す問題は異なり、偽の画像や偽の動画に比類のない精度をもたらします。

より多くの視聴者を襲った最初のディープフェイク動画の1つは、目前の問題について話し合っている動画で、ジョーダンピールがバラクオバマになりすましたことです。

ビデオは粗雑に見え、クローンされた顔に奇妙な声と粒子の粗いアーティファクトがあります。それにもかかわらず、それはディープフェイクテクノロジーを示しています。

または、スミスがキアヌ・リーブスの代わりにマトリックスでネオを演じたとしたらどうなるだろうと思ったことはありますか（つまり、誰が演じていませんか？！）？もう不思議ではない：

これらの2つのビデオは悪意のあるものではなく、コンパイルに数百時間の機械学習が必要です。しかし、同じテクノロジーは、学ぶのに十分な時間とそれに伴うコンピューティング能力を持っている人なら誰でも利用できます。ディープフェイクテクノロジーを使用することへの障壁は、当初はかなり高かった。しかし、テクノロジーが向上し、参入障壁が大幅に低下するにつれて、人々はディープフェイクの否定的で有害な使用法を見つけます。

ディープフェイクのダークサイドを掘り下げる前に、シャイニングでジャックニコルソンの代わりにジムキャリーを紹介します。

1。有名人をフィーチャーした偽のアダルト素材

ディープフェイクテクノロジーによる主な脅威の1つは、合成アダルトマテリアル、または知られているディープフェイクポルノです。エマ・ワトソン、ナタリー・ポートマン、テイラー・スウィフトなどの著名な女性有名人の顔をフィーチャーした何万もの偽のアダルトビデオがあります。

いずれもディープフェイクの機械学習アルゴリズムを使用して、有名人の顔を女性の成人女優の体に縫い付けており、多数の成人向けコンテンツWebサイトで数千万回の視聴を集めています。

しかし、これらのサイトはいずれも、有名人のディープフェイクについては何もしていません。

ディープフェイクの検出および分析会社であるSensityのCEO兼最高経営責任者であるGiorgioPatriniは、次のように述べています。 「何億人もの人々が閲覧しているこれらのWebサイトに影響を与えることなく、このタイプの資料を自由にアップロードできます。」

一部のディープフェイククリエイターが主張しているように、動画は搾取的であり、被害者がいないわけではありません。

2。普通の人をフィーチャーした偽のアダルト素材

有名人をフィーチャーした合成ポルノよりも悪いことは何ですか？そうです：無防備な女性をフィーチャーした偽の大人の素材。 Sensityの調査では、ソーシャルメッセージングアプリであるTelegramで、10万を超えるディープフェイクヌード画像を作成したディープフェイクボットが発見されました。画像の多くはソーシャルメディアアカウントから盗まれており、友人、ガールフレンド、妻、母親などが写っています。

画像アップローダーはディープフェイク、機械学習、AIに関する既存の知識を必要としないため、ボットはディープフェイクテクノロジーの大きな進歩です。これは、単一の画像を必要とする自動化されたプロセスです。さらに、Telegramボットは女性の画像でのみ機能するようであり、プレミアムサブスクリプション（より多くの画像、透かしを削除）は途方もなく安価です。

有名人のディープフェイクと同様に、Telegramボットのディープフェイク画像は搾取的で虐待的で非道徳的です。彼らは、夫、パートナー、家族、同僚、または上司の受信トレイに簡単にたどり着き、その過程で命を破壊する可能性があります。恐喝やその他の形態の恐喝の可能性は非常に高く、リベンジポルノなどの既存の問題からの脅威を増大させます。

Telegramにディープフェイクを投稿すると、別の問題も発生します。 Telegramは、プライバシーに重点を置いたメッセージングサービスであり、ユーザーの邪魔をしすぎません。ポルノボットやその他のアダルトコンテンツに関連するボットを削除するポリシーはありますが、この場合は何もしていません。

3。デマ素材

ジョーダン・ピールがオバマを演じているのを見たことがあります。そのビデオでは、彼はディープフェイクの危険性について警告しています。ディープフェイクテクノロジーに関する主な懸念の1つは、誰かがビデオを作成して公開することで、何らかの形の悲劇につながるほどリアルなものになることです。

スケールの最も極端な端では、人々はディープフェイクのビデオコンテンツが戦争を引き起こす可能性があると言います。しかし、他にも大きな影響があります。たとえば、大手企業や銀行のCEOが有害な発言をしているディープフェイクの動画は、株式市場の暴落を引き起こす可能性があります。繰り返しますが、それは極端です。しかし、実際の人はビデオをチェックして検証できますが、グローバル市場はニュースに即座に反応し、自動販売が行われます。

考慮すべきもう1つのことはボリュームです。ディープフェイクコンテンツの作成がますます安価になるにつれ、同じ人物の大量のディープフェイクコンテンツが、さまざまなトーン、場所、スタイルなどで同じフェイクメッセージを配信することに焦点を当てる可能性が高まります。

4。実物の拒否

デマ素材の拡張として、ディープフェイクが非常に現実的になることを考慮する必要があります。内容に関係なく、人々がビデオが本物かどうかを疑問視し始めるほどです。

誰かが犯罪を犯し、唯一の証拠がビデオである場合、「それは偽物であり、偽の証拠です」と彼らが言うのを止めるにはどうすればよいでしょうか。逆に、誰かが見つけられるようにディープフェイクのビデオ証拠を植えるのはどうですか？

5。偽の思想的指導者と社会的接触

ソートリーダーを装ったディープフェイクコンテンツを含むいくつかの事例がすでにあります。 LinkedInとTwitterのプロファイルでは、戦略的組織における上位の役割について詳しく説明していますが、これらの人々は存在せず、ディープフェイクテクノロジーを使用して生成されている可能性があります。

とはいえ、これはディープフェイク固有の問題ではありません。時代の幕開け以来、政府、スパイネットワーク、企業は、偽のプロファイルとペルソナを使用して、情報を収集し、議題をプッシュし、操作するようにしています。 。

6。フィッシング詐欺、ソーシャルエンジニアリング、およびその他の詐欺

セキュリティに関しては、ソーシャルエンジニアリングがすでに問題になっています。人々は他の人々を信頼したいと思っています。それは私たちの本質です。しかし、その信頼は、セキュリティ侵害、データ盗難などにつながる可能性があります。ソーシャルエンジニアリングでは、電話やビデオハングアウトなど、個人的な連絡が必要になることがよくあります。

誰かがディープフェイクテクノロジーを使用してディレクターを模倣し、セキュリティコードやその他の機密情報にアクセスできるとします。その場合、ディープフェイク詐欺の大洪水につながる可能性があります。

ディープフェイクを見つけて検出する方法

ディープフェイクの品質が向上しているため、ディープフェイクを見つけることが重要です。初期の頃は、ぼやけた画像、ビデオの破損やアーティファクト、その他の欠陥など、いくつかの簡単な説明がありました。ただし、テクノロジーの使用コストが急速に低下している一方で、これらの明らかな問題は減少しています。

ディープフェイクコンテンツを検出する完璧な方法はありませんが、ここに4つの便利なヒントがあります：

1. 詳細 。ディープフェイクテクノロジーが良くなっているのと同じくらい、それが苦労しているビットがまだあります。特に、髪の毛の動き、目の動き、頬の構造や発話中の動き、不自然な表情など、ビデオ内の細部。目の動きは大きな違いです。ディープフェイクは効果的に点滅できるようになりましたが（初期の頃は、これは大きな問題でした）、目の動きは依然として問題です。
2. 感情 。詳細に結びつくことは感情です。誰かが強い発言をしている場合、彼らが詳細を伝えるとき、彼らの顔はさまざまな感情を示します。ディープフェイクは、実在の人物と同じ深さの感情を伝えることはできません。
3. 不整合 。ビデオ品質は史上最高です。ポケットの中のスマートフォンは4Kで録画して送信できます。政治指導者が声明を出している場合、それは一流の録音機器でいっぱいの部屋の前にあります。したがって、視覚的および聴覚的の両方での録音品質の低下は、顕著な矛盾です。
4. ソース 。ビデオは検証済みのプラットフォームに表示されていますか？ソーシャルメディアプラットフォームは、検証を使用して、世界的に認識されている人々が模倣されていないことを確認します。確かに、システムには問題があります。しかし、特に悪質なビデオがどこからストリーミングされているか、またはホストされているかを確認すると、それが本物かどうかを判断するのに役立ちます。また、逆画像検索を実行して、インターネット上で画像が見つかった他の場所を明らかにすることもできます。