AI 詐欺の暴露:見分けて身を守る方法

AI はすでに、テクノロジーとの関わり方を変革しつつあります。残念ながら、詐欺師やその他の悪者は強力な AI ツールを悪用して、ハッキング、誤った情報の拡散、かつてないほど大規模な詐欺行為を行っています。

この記事では、最も一般的な AI 詐欺を特定する方法と、AI を利用した詐欺によってもたらされる潜在的な危険から身を守る方法を学びます。

AI 詐欺とは何ですか?

AI詐欺とは、人工知能技術を利用して行われる詐欺のことです。ハッカーや詐欺師は、違法なダーク AI ツールを使用して大規模な複雑な犯罪を実行し、ディープフェイク、AI 音声クローン、AI フィッシング攻撃を利用して個人情報を盗み、無実のインターネット ユーザーを騙します。

AI 詐欺は被害者や法執行機関が発見するのが難しく、AI が関与した詐欺事件の約 3 件に 1 件が成功します。人工知能詐欺に対する防御の第一線は知識です。つまり、詐欺師のトリックを見たときにそれを見破る方法を知ることです。

AI 詐欺はなぜそれほど危険なのでしょうか?

AI 詐欺は、検出が非常に難しいため、特に安全ではありません。詐欺師は、自分たちの計画をより説得力のあるものにする AI ツールを使用できるようになりました。 AI は、詐欺師の手にかかると危険でもあります。AI を使用すると、より効率的に、より多くの数の詐欺が複数のチャネルで開始されるようになるからです。

AI詐欺はかつてないほど巧妙化しています。ディープフェイクと AI ボイスクローン (AI が誰かの顔や声を偽装するもの) により、詐欺師が被害者になりすまして操作することが容易になります。デジタル アイデンティティ企業 Signicat の調査によると、2022 年に生成 AI が主流になって以来、ディープフェイクは 2,100% 以上急増しました。

テクノロジー企業と法執行機関は AI の脅威からユーザーを守ろうと躍起になっていますが、AI テクノロジーは急速に進歩しており、追いつくのは困難です。私たちが前例のない進歩の時代に突入していることは否定できませんが、危険性についても認識する必要があります。

一般的なタイプの AI 詐欺

一般的な AI 詐欺を特定する方法を学ぶことは、被害者から身を守るための最良の方法の 1 つです。以下は、AI 詐欺師のツールキットで最も人気のあるトリックの一部です。

1. AI 音声クローン

AI 音声クローンは、詐欺師が AI テクノロジーを利用して誰かの声を模倣するときに発生します。ビッシング (「音声」と「フィッシング」のかばん語) としても知られる詐欺師は、音声を模倣して被害者を操作し、金銭や個人情報を送金させます。

たとえば、詐欺師が上司の声を真似て、会社の機密データを確認するよう電話をかけてくる可能性があります。あるいは、愛する人の真似をして、緊急の経済的援助を求める電話をするかもしれません。

知っていましたか? 詐欺師があなたの声を正確に複製するのに必要なのは、3 秒間の音声だけです。そうすれば、彼らはあなたになりすまして、驚くほど正確に通信できるようになります。

2023年、アリゾナ州の母親ジェニファー・デステファノさんは「娘」ブリーさんから電話を受け、誘拐されたと告げた。 「声は抑揚も含めてすべてがブリーの声にそっくりでした」とデステファノさんは語った。詐欺師は 100 万ドルの身代金を要求しましたが、幸いにもデステファノは策略が明らかになる前に支払いをしませんでした。

AI 電話詐欺に騙されないようにするには、愛する人や同僚から緊急の電話や恐ろしい要求の電話がかかってきてもパニックにならないようにしてください。電話を切り、別の通信チャネル経由で電話をかけ、最初の通話が正当なものであることを確認します。また、あなたとあなたの愛する人だけが知っている安全なフレーズ、単語、質問を用意しておくことも良いアイデアです。あなたがターゲットにされている場合は、合意された用語を使用してください。

2.ディープフェイク詐欺

ディープフェイク詐欺は AI 詐欺の一種で、詐欺師がビデオ上に他人のデジタル分身を作成します。これらのビデオは、人の外見や声をほぼ完璧に模倣できます。

ディープフェイク詐欺では事前に録画されたビデオやライブビデオが使用されるため、被害者は実際には詐欺師と話しているのに、友人や同僚とビデオ通話していると思うかもしれません。    詐欺師は、有名人や影響力のある人物をディープフェイクすることもよくあります。

最近のある事件では、ディープフェイクを行ったマスク氏が元看護師のジョセフ・ラムサブバーグ氏に仮想通貨詐欺への参加を勧めた。時間が経つにつれて、詐欺師は彼の富が増えていることを彼に知らせ、それが彼にさらに数十万ドルを詐欺に投資するよう促しました。ラムサブバーグが売ろうとしたとき、すぐにお金がなくなったことに気づきました。

このようなディープフェイクはますます一般的になってきており、今後数年以内に詐欺による損失は 400 億ドル以上に膨らむと予想されています。

自分を守るために、特に有名人からの連絡の場合、あまりに出来すぎた約束には注意してください。また、知り合いから緊急のビデオ通話やメッセージを受信した場合は、アクションを起こす前に、別のプラットフォームで電話をかけて本人確認を行ってください。

保護を強化するには、ノートン 360 デラックスに含まれる詐欺防止スイートを利用してください。高度な AI を活用し、パターンとビデオ キューを分析して、ディープフェイクやその他の高度な詐欺を検出できるようにします。そのため、脅威を早期に発見し、害を及ぼす前にシャットダウンできます。

3. AI を活用したボット

AI ボットは、詐欺に加わる、個人情報を漏らす、悪意のあるリンクをクリックするなど、ユーザーを操作して何らかの行動をとらせようとするオンライン チャットボットです。これらのボットは人間のような会話ができるようにプログラムされていますが、生成 AI ツールを利用しています。

AI チャットボットは、銀行の技術サポートや出会い系サイトでの恋人など、信頼できる人や組織を模倣することがよくあります。また、DM で連絡する前に、あなたのコンテンツに「いいね」をしたりコメントしたりすることで、ソーシャル メディアであなたと関わることもできます。

AI チャットボットはインターネット上のあらゆる場所に存在します。 Microsoft は、このうち約 160 万人が 1 時間ごとに Microsoft アカウントへのサインアップをブロックしていると主張していますが、さらに多くのユーザーが他の地域や別のサイトですり抜けている可能性があります。

自分を守るために、たとえ信頼できる人とチャットしていると思っても、チャットを通じて個人情報を提供しないでください。また、特に不明な送信者から送信されたものである場合は、チャット、電子メール、テキスト メッセージで送信されたリンクは決してクリックしないでください。

4. AI が生成した偽 Web サイト

詐欺師は AI を使用して、実際の企業、政府のページ、メディアなどを模倣した偽の Web サイトを構築しています。以前は、詳細な Web ページを作成するには時間がかかりました。しかし現在、詐欺師は AI を使用して画像、商品説明、さらには顧客レビューを数分で生成できるようになりました。

専門家の意見

「VibeScams の時代へようこそ。数回クリックするだけでフィッシング サイトを作成できます。インターネット接続があれば誰でも、信頼できるブランドを驚くべき忠実度で複製できます。」 - Gen ブログ、2025 年

Jan Rubín、脅威調査チーム リーダー

詐欺師は、高度なファーミング攻撃を通じて、AI が作成したこれらの偽 Web サイトに被害者を誘い込み、そこで個人情報や財務情報を入力させます。被害者は製品を購入したり自分のアカウントにログインしていると思っていますが、実際には自分の情報を詐欺師に直接送信しています。

AI によって作成されたファーミング Web サイトがどのように機能するかを示す図。

詐欺師は入力情報を金融詐欺、個人情報盗難、フィッシング攻撃に使用します。または、機密データをダークウェブで販売します。

銀行や PayPal などのオンライン金融サービスは、詐欺師によって偽装されることがよくあります。常に URL (Web アドレス) に細心の注意を払い、実際のサイトとの違いを確認してください。

常に検索バーにアドレスを入力して (またはブックマークを使用して)、Web サイトにアクセスしてください。ソーシャル メディアやメッセージ内に Web サイトへのリンクが表示された場合は、クリックしないでください。これらは、偽サイトに誘導される可能性があります。

5. AI が生成したロマンス詐欺

AI ロマンス詐欺は、詐欺師が AI ツールを使用して被害者の心をつかむときに発生します。次に、彼らは彼らを操作して送金させます。

ロマンス詐欺は AI を使用して、存在しない人物の写真、音声、ビデオを生成します (または、本物の人物をディープフェイクすることもできます)。次に、詐欺師は出会い系プロフィールやソーシャル メディア アカウントなどをセットアップして、偽の人物にデジタル フットプリントを与えます。 AI チャットボット詐欺師は、多くの被害者との会話を同時に自動化するため、AI がすべての誘惑を行っている間、被害者は座ってリラックスすることができます。

最近、ニッキー・マクラウドという名前のスコットランド人女性が、実際には存在しない恋人と関係を築いたため、銀行振込、PayPal 取引、ギフトカードの形で 17,000 ポンドをだまされました。彼女が懐疑的に感じたとき、今ではディープフェイクだとわかっていることで安心しました。

知っていましたか? GPT 4.5 などの生成 AI モデルはすでにチューリング テストに合格しています。これは、人間が AI ボットと話しているのか、別の人間と話しているのかを区別できないことを意味します。したがって、AI のロマンチックな誘惑に絶対に影響されないと確信している場合は、もう一度考えてください。

6. AI によるフィッシング攻撃

フィッシング攻撃は、ハッカーがあなたの個人情報を収集することを目的として、他人になりすましてメッセージを送信するソーシャル エンジニアリング スキームです。

AI が登場する前は、詐欺師は独自のフィッシング メッセージを作成し、被害者に返信する必要がありました。今では、それらすべてが AI によって自動化されるようになりました。詐欺師は数秒で説得力のあるメッセージを生成できます。また、これまでのぎこちなくエラーだらけのメッセージとは異なり、AI は本物のように聞こえ、タイプミスなどの人為的なミスを犯しません。

幸いなことに、これも AI を活用した新しいツールにより、人々や企業がメッセージを迅速にスキャンして詐欺の兆候がないか確認できるようになりました。 Norton Genie のような AI ツールは、何十万ものフィッシング メッセージを特定し、AI スパムや詐欺から人々を守るのに役立ちました。

最新の Gen Threat Report によると、2025 年の最初の数か月間で判明したサイバー セーフティの傾向が詳しく記載されており、ノートン ジーニーによって検出されたすべての詐欺のうち 30% 以上をフィッシング詐欺が占めており、これは前四半期から 465% 増加しています。

グラフは、2025 年の最初の 3 か月間にノートン ジーニーによって検出された詐欺の種類の内訳を示しています。

7. AI を利用した投資詐欺

AI 投資詐欺は、多額の利益を約束して被害者をだまして送金させます。詐欺師は、AI が生成したフィッシング メッセージと AI チャットボットを使用して、ソーシャル エンジニアリング戦術を自動化します。この詐欺師の効率の向上により、2023 年以降、投資詐欺が 24% 増加しました。

詐欺師は被害者の信頼を得るために、ディープフェイクや音声クローンをよく使用し、イーロン マスクやウォーレン バフェットなどの金融界の著名人を模倣します。

詐欺師との投資は合法的に見えるかもしれません。投資詐欺サイトの多くは、偽の Web サイトによってホストされているか、電話で本物の担当者が対応しています。ただし、一度送金すると、二度と見ることはできません。

このような詐欺を避けるには、お金について大きな決断を下す前に、銀行またはファイナンシャル プランナーに相談してください。一攫千金を謳う言葉には、特に緊急の対応が必要な場合や、事実上追跡不可能なため詐欺師のお気に入りである仮想通貨が関係する場合には注意してください。また、ソーシャル メディアの投稿からの投資アドバイスを決して受け入れないでください。

ニュースで取り上げられる AI 詐欺

AI を使用した詐欺師は数億人もの被害者を騙しており、その話は世界中のメディアに掲載されました。ここでは、ニュースで取り上げられている最大の AI 詐欺をいくつか紹介します。

ディープフェイクされた電話会議

英国のエンジニアリング会社 Arup の従業員は、会社のトップ マネージャーとのビデオ通話で送金の確認を受けた後、約 2,500 万米ドルを犯罪者に送金しました。

結局のところ、その従業員はマネージャーたちとはまったく話しておらず、会議の出席者は全員ディープフェイクだった。これは非常に洗練されたディープフェイク攻撃であり、大手企業の最高幹部の同時ライブ ディープフェイクを特徴としていました。

この物語は、ディープフェイクがいかに大手企業の最高レベルをターゲットにしているかを示しています。 2024 年のデロイトの世論調査では、経営幹部の 15% 以上が組織内で少なくとも 1 回のディープフェイク インシデントを経験していることがわかりました。

ジョー バイデン AI 音声クローン

2024 年、詐欺師たちはニューハンプシャー州の有権者をロボコールし、今後行われる同州の予備選で投票しないよう指示することで、米国大統領選挙を揺るがそうとしました。

問題は、その電話がジョー・バイデンになりすましたAIからのものだったということだ。それは「なんてひどいことだ」という典型的なバイデン主義で始まり、投票を避けて家にいたいという衝動で続いた。 AI 詐欺はすぐに発覚しましたが、これは AI が選挙やその他の政治活動を操作するためにいかに簡単に利用できるかを示しています。

最近、世界経済フォーラムは、AI の誤った情報を「地球規模の危機」のリスクとして 2 番目に高いものとしてランク付けしました。多くの国は、詐欺師や外国の敵対者による選挙への介入をすでに経験しています。

テイラー・スウィフトのディープフェイクでファンを詐欺

テイラー・スウィフトはメガスターの地位により、最もディープフェイクされたセレブの一人です。最近の詐欺では、彼女はファンに無料のル クルーゼ調理器具セットを提供する一連のソーシャル メディア広告に出演しました。

この特典を利用するには、参加者は個人情報を提供し、少額の送料を支払う必要がありました。もちろん、ビデオは偽物でした。スウィフトはそのようなオファーをしませんでした。詐欺師は、何千もの Swifties の現金、財務情報、個人情報を盗み出しました。

AI 詐欺を回避する方法

AI 詐欺は検出するのが難しい場合がありますが、基本的なサイバーセキュリティのベスト プラクティスに従うことで、リスクにさらされることを制限できます。

• 疑わしいリンクをクリックしない:リンクは、詐欺師がユーザーを偽のウェブサイトなどのオンラインの安全でない場所に誘導する手段であり、デバイスをマルウェアにさらす可能性もあります。チャット、メール、テキストメッセージで送信された不審なリンクをクリックしないようにしてください。
• ソーシャル メディア投稿内のリンクをクリックしないようにします。詐欺師は、ソーシャル メディア、特に家族や友人が共有する可能性のあるウイルス投稿を介して悪意のあるリンクや AI の誤った情報を広めることを好みます。
• 迷惑メッセージには懐疑的になる:迷惑メッセージは、多くの場合、詐欺師からのものです。 AI は、これまで以上に多くのメッセージを生成し、応答するのに役立ちます。このようなメッセージには返信しないことをお勧めします。
• オンラインでの個人情報の共有を制限する:ソーシャル メディア、メッセージング アプリ、AI ツールなど、オンライン上のあらゆる場所（信頼できる金融アカウントや政府アカウント以外）で個人情報を共有しないでください。詐欺師は AI を利用してインターネットをクロールして個人情報を取得し、個人情報を悪用して個人情報を窃盗します。
• AI 詐欺からの保護に投資する:AI サイバー脅威に対抗する最も効果的な方法の 1 つは、AI サイバーセキュリティを活用することです。 AI 詐欺検出ツールは AI リスクを特定し、手遅れになる前に警告します。たとえば、ノートン ジーニーは 90% 以上の精度で詐欺を特定します。
• 緊急のリクエストや通常とは異なるリクエストに注意する:誰かがあなたに緊急のリクエストや脅迫的なリクエストを送ってきた場合、それはあなたを操作しようとしている詐欺師である可能性があります。一歩下がって、明確に考えられるまで待ってから行動を起こしてください。
• 発信者/送信者の身元を確認する:個人情報や金銭を要求するメッセージを受信した場合は、発信者または送信者の身元を必ず再確認してください。別の通信チャネル経由で電話をかけ、本人確認を行います。

一部の AI ブラウザーには、偽の AI Web サイトを見つけるのに役立つツールが組み込まれています。このような詐欺行為を発見するには、これらのツールや他のブラウザベースのツールを検討してください。

AI 詐欺に遭った場合の対処方法

すべての AI 詐欺の約 3 分の 1 が成功しています。たとえ予防策を講じていたとしても、被害者になるリスクは常にあります。 AI 詐欺に遭った場合の対処法は次のとおりです。

• 侵害されたアカウントを保護する:パスワードを変更するか、影響を受けるアカウントを閉じます。金融口座の場合は、組織に連絡し、詐欺アラートを設定してください。
• 詐欺を FTC に報告する:詐欺を報告するには、reportfraud.ftc.gov にアクセスしてください。これにより、連邦当局が詐欺を追跡し、他の人が被害に遭うことを防ぐことができます。
• 警察に報告書を提出する:地元の警察署に連絡して報告書を提出してください。保険会社や銀行は、払い戻しや係争中の請求についてサポートする前に警察の報告書を要求する場合があるため、直ちにこれを行ってください。
• すべてを文書化する:詐欺の影響を受けたすべての状況を日記に記録し、文書化します。財務諸表や警察の報告書を印刷し、詐欺師との通信をスクリーンショットしてください。明確な文書は、資金を回収し、捜査官が加害者の責任を追及するのに役立ちます。
• 金融アカウントを監視する:アカウントを監視して、身に覚えのない請求やその他の異常なアクティビティがないか確認してください。
• 信用を保護する:主要な信用調査機関 (Equifax、Experian、TransUnion) に問い合わせて、詐欺アラートを設定するか、信用を凍結してください。クレジットを凍結すると、（あなたを含む）誰もが新しいクレジット カードなどの信用枠を開設できなくなります。詐欺アラートでは、貸し手は信用を拡張する前に確認をリクエストする必要があります。
• デバイスのマルウェアをスキャンする:ウイルス対策ソフトウェアを使用して、インターネットに接続されたデバイス (スマートフォン、タブレット、パソコンなど) でマルウェアをスキャンします。このソフトウェアは、舞台裏で発生している隠れたウイルスやその他の悪意のあるアクティビティを特定します。

ロボットに騙されないでください

AI は、ディープフェイクから AI が作成したマルウェアに至るまで、詐欺師にさまざまな新しい手口を与えてきました。しかし、AI 詐欺の被害に遭う必要はありません。詐欺師の罠を回避するには、詐欺師のトリックを見分ける方法を学び、ノートン 360 デラックスで最新の AI サイバーセキュリティ保護を入手してください。

ノートン 360 デラックスは、ハッカーをブロックし、機密情報を保護し、さまざまなデバイスにわたる AI 詐欺を監視するのに役立ちます。そのため、オンラインの安全を確保するためだけにサイバーフォレンジックの専門家になる必要はありません。

よくある質問

ChatGPT は安全ですか?

はい、ChatGPT は一般的に安全です。 OpenAI (ChatGPT の作成者) は、高度なサイバーセキュリティ対策とコンテンツ管理を使用して、サイバー脅威、有害なやり取り、誤った情報からユーザーを保護します。

ただし、ユーザーは ChatGPT との会話で個人情報を共有しないようにする必要があります。 OpenAI は研究目的で会話を保存するため、個人情報を共有するとデータ侵害が発生した場合のリスクが高まる可能性があります。

AI は詐欺ですか?

いいえ、AI は詐欺ではありません。 AI は、機械学習アルゴリズムを利用してデータのパターンを認識し、結果を予測する正当なテクノロジーです。他のテクノロジーと同様に、AI の利点とリスクはその使用方法によって決まります。

医師は AI を利用してがんをより正確に検出し、予防しています。その一方で、詐欺師は AI を悪用して説得力のある詐欺を作成し、被害者を騙して金銭や機密データを騙し取ります。