ディープフェイクは顔認識をだますことができますか?新しい研究はそうだと言っています!
ディープフェイクとAIで生成されたビデオはここにあります。しかし、過去数年間で質と量が増え、多くの人々が国家安全保障と個人のプライバシーについて心配するようになりました。
それでも、匿名のオンラインユーザーが偽のビデオを現実的にしようとしても、高度な顔認識ソフトウェアを乗り越えることはできませんでした。今まで。
だまされた顔認識API
韓国の水原にある成均館大学の研究者は、現在のディープフェイク技術の品質をテストしました。彼らは、オープンソースで一般的に使用されているディープフェイクビデオ生成ソフトウェアを使用してAmazonとMicrosoftの両方のAPIをテストし、それらのパフォーマンスを確認しました。
研究者たちはハリウッドの有名人の顔を使用しました。堅実なディープフェイクを作成するために、ソフトウェアには、同じ人物のさまざまな角度からの高品質の画像が多数必要です。これにより、一般の人々よりも有名人を簡単に取得できます。
研究者たちはまた、MicrosoftとAmazonのAPIを研究のベンチマークとして使用することを決定しました。これは、両社が有名人の顔認識サービスを提供しているためです。彼らは公開されているデータセットを使用し、8,000を超えるディープフェイクを作成しました。それぞれのディープフェイク動画から、複数のフェイスショットを抽出し、問題のAPIに送信しました。
MicrosoftのAzureCognitiveServicesを使用すると、研究者はディープフェイクを使用してシステムを78%の確率でだますことができました。アマゾンの結果はわずかに良く、提出された顔の68%が本物として識別されました。
ディープフェイク検出器は、ディープフェイクとほぼ同じように機能します。検出器は、ディープフェイク動画の検出方法に関する機械学習モデルを使用してトレーニングされたソフトウェアです。
しかし、検出器をだますために超現実的なビデオを作成することに焦点を当てる代わりに、ディープフェイクはAIシステムを混乱させるためにすべてのフレームに敵対的な例を含めることができるようになりました。実際、このタイプのディープフェイク攻撃の成功率は78〜99%です。
Deepfakesは機械学習アプリケーションです。遠く離れた場所でも説得力のあるものを作成するには、同じ人物の顔をさまざまな角度から数百枚の画像で表示し、さまざまな感情を表現する必要があります。
大量のデータが必要なため、有名人や政治家のように、オンラインでの存在感が大きい人だけが危険にさらされていると考えられます。しかし、それはもはや事実ではありません。
Deeptraceによると、オンラインでのディープフェイクの数は、2019年10月から2020年6月までの1年間で330%増加しました。言うまでもなく、ディープフェイクメーカーが使用するソフトウェアとアルゴリズムはより強力になり、より簡単に利用でき、アクセスできるようになっています。
ディープフェイクのリスクがあるのは誰ですか?
ディープフェイクが最初に主流になったとき、主な懸念はプライバシーと国家安全保障でした。人々は、政治家や公務員のビデオ映像がもはや信頼できないことを恐れていました。
しかし、セキュリティリスクのディープフェイクのポーズを無視するのは無責任ですが、複数の調査によると、ディープフェイクのメーカーはまだ政治を妨害することにそれほど関心がないことがわかりました。オンラインのディープフェイク動画の大部分は、有名人のインタビューの面白い動画と、映画やポルノ素材の2つのカテゴリに分類できます。
最近の調査では、有名人の顔を使用してディープフェイクが高品質でAPIをだましていることを確認しましたが、それは、より少ないデータでディープフェイクを作成できないという意味ではありません。確かに、彼らは高度な顔認識システムをだますチャンスに耐えられないかもしれませんが、他の人をだますのに十分説得力があるかもしれません。
今日では、社会的存在感のある人なら誰でも、説得力のあるディープフェイクを作ることができます。必要なのは、あなたの写真と、おそらくあなたが登場するビデオだけです。結果として得られるディープフェイクは品質が低い可能性がありますが、それでも実行可能であり、損害を与える可能性があります。
ディープフェイクはすぐになくなることはないため、ディープフェイクの状態に関しては多くの矛盾した予測があります。
オンラインで出会った映像を信用できない終末論的なサイバーの未来を期待する人もいます。他の人はより楽観的で、ディープフェイクをアニメーションと比較し、コンテンツ制作に未来があるかもしれないと言っています。
-
顔認識技術:プライバシーに対する脅威?
機械にひそかに追跡され、顔に基づいて判断される世界に住んでいると想像してみてください。はい、それは恐ろしいです!!このテクノロジーには、あなたの動きを密かに追跡する力があります。実際、彼らは顔の特徴だけであなたの性別を推測することさえできます.将来、私たちはこのテクノロジーに夢中になるので、心配です. 顔を読み取ることができる機械が主流になりつつある今、私たちの生活様式が変わりつつあります。まもなく私たちの顔は恒久的なパスワードになり、顔 ID はスマートフォンのロック解除だけでなく、銀行口座にも使用されるようになります。私たちは未来に直面することを余儀なくされます!! 人間の顔には、驚く
-
顔認識技術における人種プロファイリング:顔認識は人種差別主義者になりうるか?
顔認識 テクノロジーとその能力は、法執行機関でこのテクノロジーを強化する新しいアルゴリズムが注目を集めて以来、私たちの想像をはるかに超えて成長しています.現在、顔認識技術は法執行機関によってデータ収集プロセスの最下位レベルで使用され、密集した集会の中で犯罪者を特定しています。この技術は、公共の場所や街路にある CCTV カメラの映像を使用し、収集したデータを政府機関のアーカイブと照合して、犯罪で指名手配されている顔を検出します。 この技術は、携帯電話やスマート ウェアラブル デバイスなどの最小のガジェットにも組み込まれています。したがって、路上であなたを保護するだけでなく、スマートデバイス