AI詐欺の全貌：最新の手口を見抜き、身を守る完全ガイド

AIはすでに私たちとテクノロジーの関わり方を大きく変えつつあります。しかし残念ながら、詐欺師などの悪意ある者たちもまた、強力なAIツールを悪用して、ハッキング、偽情報の拡散、そしてかつてない規模での詐欺行為を実行しています。

本記事では、最も一般的なAI詐欺の見分け方と、AIを悪用した詐欺がもたらす危険から自分自身を守るための具体的な方法を解説します。

AI詐欺とは？

AI詐欺とは、人工知能（AI）技術を活用して行われる詐欺のことです。ハッカーや詐欺師は違法な「ダークAI」ツールを駆使し、ディープフェイク、AI音声クローン、AIフィッシング攻撃などを通じて、大規模かつ高度な犯罪を実行。インターネット利用者の個人情報を盗み、金銭を騙し取っています。

AI詐欺は被害者にとっても捜査機関にとっても検出が極めて難しく、AIが関与する詐欺の約3分の1が成功しているとされています。AI詐欺に対する最初の防御策は「知識」です。詐欺師の手口を目にしたとき、それを見抜けることが何よりも重要になります。

なぜAI詐欺はこれほど危険なのか？

AI詐欺が特に危険なのは、その検出の難しさにあります。詐欺師は今やAIツールを使って、より説得力のあるシナリオを作り上げられるからです。さらに、AIの登場により、より多くの数の詐欺を、複数のチャネル経由で効率的に仕掛けられるようになりました。

現在のAI詐欺は、かつてないほど巧妙化しています。顔や声を模倣する「ディープフェイク」や「AI音声クローン」の進化により、詐欺師は被害者になりすましたり、巧みに操ったりすることが容易になっています。デジタルID企業Signicatの調査によれば、2022年に生成AIが主流になって以来、ディープフェイクは2,100%以上急増しています。

テック企業や法執行機関はユーザーをAIの脅威から守ろうと対応を急いでいますが、AI技術の進化は速く、追いつくのが難しいのが現状です。私たちは前例のない進化の時代に入っていることは間違いありませんが、同時にその危険性にも目を向ける必要があります。

よくあるAI詐欺の7つの手口

典型的なAI詐欺の見分け方を学ぶことは、被害に遭うのを防ぐ最善の方法の一つです。以下に、AI詐欺師がよく使う手口を紹介します。

1. AI音声クローン（ボイスフィッシング）

AI音声クローンとは、詐欺師がAI技術を使って他人の声を模倣する手口です。「vishing（ボイシング）」とも呼ばれ（voice と phishing の造語）、声を真似ることで被害者を操作し、金銭や個人情報を引き出そうとします。

例えば、上司の声を真似て「機密性の高い会社のデータを確認したい」と電話をかけてくるケースや、親しい家族になりすまし「緊急にお金が必要だ」と助けを求めるケースなどが考えられます。

ご存じでしたか？ 詐欺師があなたの声を正確にクローンするのに必要なのは、わずか3秒の音声だけです。その後、驚くほど精度高くあなたになりすまして会話することが可能になります。

2023年、アリゾナ州の母親ジェニファー・デステファノさんは、「娘ブリー」からの電話を受け、「誘拐された」と告げられました。「声はブリーそのもので、話し方もすべて本物そっくりでした」と彼女は語っています。詐欺師は100万ドルの身代金を要求しましたが、幸いにもトリックが発覚する前に支払うことはありませんでした。

AIを使った電話詐欺に引っかからないためには、家族や同僚から緊急性のある怖い要求がかかってきても、慌てないことが大切です。一度電話を切り、別の連絡手段で相手にかけ直して、最初の電話が本物かどうか確認しましょう。また、自分と大切な人だけが知っている「合言葉」や質問を決めておくのも効果的です。万一狙われたときは、事前に取り決めた言葉を使って本人確認を行いましょう。

2. ディープフェイク詐欺

ディープフェイク詐欺は、詐欺師が他人の「デジタル分身」を動画で作り出すAI詐欺の一種です。こうした動画は、人物の外見や声をほぼ完璧に再現できます。

ディープフェイク詐欺では、録画済みの動画だけでなくライブ配信も使われるため、被害者は友人や同僚とビデオ通話しているつもりでも、実際には詐欺師と話していたということも起こり得ます。有名人や影響力のある人物がディープフェイクされるケースも少なくありません。

最近の事例では、ディープフェイクされたイーロン・マスク氏が、退職した看護師のジョセフ・ラムスバッグさんに暗号資産詐欺への投資を勧めました。時間が経つにつれ、詐欺師は「資産が増えている」と更新情報を伝え続け、彼はさらに数十万ドルを追加投資しました。しかし、売却しようとしたときに初めて、お金が消えてしまったことを知ったのです。

このようなディープフェイク詐欺はますます増えており、今後数年以内に詐欺被害額は400億ドルを超えると予測されています。

身を守るためには、「うますぎる話」には疑いを持つこと、特に有名人からの提案には注意しましょう。また、知人から緊急性のあるビデオ通話やメッセージが届いた場合は、何らかのアクションを起こす前に、別のプラットフォームから電話をかけて本人確認を行ってください。

さらに強固な防御策として、Norton 360 Deluxeに含まれるScam Protection（詐欺防止）スイートの活用も検討しましょう。先進的なAIによってパターンや動画の手がかりを分析し、ディープフェイクやその他の高度な詐欺の検出を支援します。脅威を早期に発見し、被害が発生する前に食い止めることができます。

3. AI搭載ボット

AIボットとは、詐欺への勧誘、個人情報の提供、悪意のあるリンクのクリックなど、何らかのアクションを取らせるためにユーザーを操作しようとするオンラインチャットボットです。これらのボットは人間らしい会話をするようにプログラムされており、生成AIツールによって動いています。

AIチャットボットは、銀行のテクニカルサポートやマッチングアプリでの恋愛相手など、あなたが信頼しそうな人物や組織になりすますことがよくあります。SNS上では、DMで接触する前に、あなたの投稿に「いいね」やコメントをして関係を築こうとしてくることもあります。

AIチャットボットはインターネット上のあらゆる場所に存在します。Microsoft社は毎時約160万件のボットによるアカウント登録をブロックしていると発表していますが、他のサービスやサイトではさらに多くのボットがすり抜けている可能性があります。

身を守るためには、たとえ信頼している相手と話していると思っても、チャットで個人情報を開示しないこと。そして、チャット・メール・SMSで送られてきたリンクは絶対にクリックせず、特に差出人が不明な場合は注意してください。

4. AI生成の偽ウェブサイト

詐欺師はAIを使って、実在の企業、政府機関のページ、メディアなどを模倣した偽ウェブサイトを作成しています。以前は詳細なWebページを作るのに時間がかかりましたが、今ではAIを使えば、画像、商品説明、さらには顧客レビューまでも数分で生成できます。

専門家の声

「ようこそ『VibeScams（バイブ詐欺）』の時代へ。フィッシングサイトの作成はわずか数クリックで完了します。ネット接続さえあれば、誰もが信頼されたブランドを驚くほど精巧に複製できてしまうのです。」――Gen Blog、2025年
Jan Rubín（ヤン・ルビン）、脅威リサーチチームリード

詐欺師は、洗練された「ファーミング攻撃」によって被害者をこうしたAI製のコピーサイトへ誘導し、そこで個人情報や金融情報を入力させます。被害者は商品を購入したりアカウントにログインしたりしているつもりですが、実際には情報を詐欺師に直接送り込んでいるのです。

AIが生成したファーミングサイトの仕組みを示す図。

詐欺師は入手した情報を、金銭詐欺、なりすまし（ID盗用）、フィッシング攻撃などに悪用したり、闇市場であなたの機密データを売却したりします。

銀行やPayPalなどのオンライン金融サービスは、詐欺師に偽装されやすい標的です。常にURL（ウェブアドレス）に細心の注意を払い、本物のサイトとの違いがないか確認しましょう。

ウェブサイトには必ずアドレスバーに直接入力するか、ブックマークからアクセスしてください。SNSやメッセージでサイトへのリンクを見つけても、クリックしてはいけません。偽サイトへ誘導されている可能性があります。

5. AI生成のロマンス詐欺

AIロマンス詐欺とは、詐欺師がAIツールを使って被害者の心をつかみ、金銭を送らせる手口です。

ロマンス詐欺では、AIを使って実在しない人物の写真、声、動画を生成します（実在の人物をディープフェイクすることもあります）。そして、マッチングアプリのプロフィールやSNSアカウントなどを設定し、架空の人物に「デジタルの足跡」を持たせます。AIチャットボットは多くの被害者との会話を同時に自動化できるため、詐欺師はAIに口説き落とさせる役割を丸投げし、悠々と待っているだけです。

最近では、スコットランド出身のニッキー・マクラウドさんが、実在しない恋人との関係を深める中で、銀行振込、PayPal送金、ギフトカードの形で合計17,000ポンドを騙し取られました。疑問を感じたときも、後にディープフェイクだと判明する映像によって安心させられたといいます。

ご存じでしたか？ GPT-4.5などの生成AIモデルは、すでにチューリングテストに合格しています。これは、人間が相手がAIボットなのか別の人間なのか判別できなくなったことを意味します。「自分ならAIの求愛に引っかかることはない」と思っている方は、考え直す必要があるかもしれません。

6. AI生成のフィッシング攻撃

フィッシング攻撃とは、ハッカーが他人になりすましたメッセージを送り、あなたの個人情報を収集しようとするソーシャルエンジニアリング（社会工学的）手法です。

AIが登場する前は、詐欺師はフィッシングメッセージを自ら書き、被害者に返信する必要がありました。しかし今では、そのすべてをAIが自動化できます。詐欺師は数秒で説得力のあるメッセージを生成できます。しかも、かつてのような不自然で誤字脱字だらけの文章とは異なり、AIが生成するメッセージは自然で、タイプミスといった人間的なミスがありません。

幸いなことに、同じくAIを活用した新しいツールが、個人や企業のメッセージを素早くスキャンし、詐欺の兆候を検出するのに役立っています。Norton GenieのようなAIツールは、これまでに数十万件のフィッシングメッセージを特定し、AIスパムや詐欺から人々を守ってきました。

2025年前半のサイバーセーフティトレンドをまとめた最新のGen Threat Reportによると、Norton Genieが検出したすべての詐欺のうち30%以上がフィッシング詐欺で、前四半期から465%増加しています。

2025年の最初の3か月間にNorton Genieが検出した詐欺の種類別内訳を示すグラフ。

7. AI投資詐欺

AI投資詐欺は、大きなリターンを約束して被害者からお金を騙し取る手口です。詐欺師はAI生成のフィッシングメッセージやAIチャットボットを使って、ソーシャルエンジニアリング戦術を自動化しており、この効率化により、2023年以降、投資詐欺は24%増加しました。

詐欺師はディープフェイクや音声クローンを駆使し、イーロン・マスク氏やウォーレン・バフェット氏など、金融界の著名人のふりをして被害者の信頼を勝ち取ろうとします。

詐欺師への投資は一見合法的に見えることもあります。多くの投資詐欺サイトは偽ウェブサイト上で運営されていたり、電話には実際の担当者が対応していたりします。しかし、一度お金を送ってしまえば、二度と戻ってくることはありません。

こうした詐欺を避けるには、大きな金銭的決断を下す前に、必ず銀行やファイナンシャルプランナーに相談しましょう。「一攫千金」を謳う話には警戒を。特に、緊急性を要求されたり、暗号資産（詐欺師のお気に入りであり、事実上追跡不可能）が絡む場合は要注意です。そして、SNSの投稿から投資アドバイスを得ることは決してしないでください。

ニュースになったAI詐欺事例

AIを悪用する詐欺師は、被害者から数億ドル規模の金銭を騙し取っており、その手口は世界中のメディアで報道されています。ここでは、特に大きな話題となったAI詐欺の事例をいくつか紹介します。

ディープフェイクによるビデオ会議事件

英国のエンジニアリング会社Arupの従業員は、会社の幹部たちとのビデオ通話で送金の承認を得た後、約2,500万米ドルを犯人グループに送金してしまいました。

ところが実際には、その従業員が話していたのは幹部たちではなく、会議の参加者全員がディープフェイクだったのです。大手企業のトップ幹部のライブディープフェイクが同時に登場するという、極めて高度な攻撃でした。

この事例は、ディープフェイクが大企業の最高レベルをも標的にしていることを物語っています。2024年のDeloitteの調査では、15%以上の幹部が自分の組織で少なくとも1件のディープフェイク被害を経験したと回答しています。

ジョー・バイデンAI音声クローン事件

2024年、詐欺師たちは米国大統領選挙に影響を与えようと、ニューハンプシャー州の有権者に自動音声電話をかけ、「今度の予備選挙には投票するな」と呼びかけました。

問題は、その音声がジョー・バイデン氏をAIで模倣したものだったことです。通話は、お馴染みのバイデン節である「なんと馬鹿げた話だ（What a bunch of malarkey）」という言葉で始まり、投票所に行かないよう促す内容が続きました。このAI詐欺はすぐに発覚しましたが、AIがいとも簡単に選挙や政治活動の操作に悪用され得ることを示す事件となりました。

最近では、世界経済フォーラムがAIによる偽情報を「世界的規模の危険」をもたらしうるリスクの第2位にランキングしています。多くの国々で、すでに詐欺師や外国の勢力による選挙介入が発生しています。

テイラー・スウィフトのディープフェイク詐欺

スーパースターであるテイラー・スウィフト氏は、最もディープフェイクされやすいセレブの一人です。最近の詐欺では、彼女がファン向けに無料のル・クルーゼ調理器具セットを提供するという一連のSNS広告に登場しました。

特典を受け取るには、参加者が個人情報を提供し、送料として少額を支払う必要がありました。もちろん、これらの動画は偽物で、スウィフト氏がそんな企画をしたことはありません。詐欺師は何千人ものスウィフトファンから現金、金融情報、個人情報を巻き上げて逃げました。

AI詐欺を避けるためにできること

AI詐欺は見抜くのが難しいものですが、基本的なサイバーセキュリティのベストプラクティスを実践することで、リスクへの露出を最小限に抑えることができます。

• 怪しいリンクをクリックしない： リンクは詐欺師が偽サイトなど安全でない場所へ誘導する手段であり、デバイスをマルウェアに感染させる可能性もあります。チャット、メール、SMSで送られてきた不審なリンクはクリックしないようにしましょう。
• SNS投稿内のリンクを避ける： 詐欺師は悪意あるリンクやAI偽情報をSNS経由で拡散するのが好きです。特に、家族や友人がシェアしそうなバイラル投稿には注意が必要です。
• 心当たりのないメッセージには疑いを持つ： 勝手に送られてくるメッセージの多くは詐欺師からのものです。AIの登場で、こうしたメッセージの作成や返信はかつてないほど容易になっています。返信しないのが賢明です。
• オンラインでの個人情報共有を控える： SNS、メッセージアプリ、AIツール、その他オンライン上のどこにおいても（信頼できる金融機関や政府のアカウント以外では）、個人情報を共有しないでください。詐欺師はAIを使ってインターネット上の個人情報を収集し、なりすましに悪用しています。
• AI詐欺対策に投資する： AIサイバー脅威と戦う最も効果的な方法の一つは、AIサイバーセキュリティの導入です。AI詐欺検出ツールはAIのリスクを特定し、手遅れになる前に警告してくれます。例えば、Norton Genieは90%以上の精度で詐欺を識別します。
• 緊急または奇妙な要求には警戒する： 緊急性のある、あるいは脅迫的な要求を受け取った場合、それはあなたを操作しようとする詐欺師かもしれません。一歩下がって、冷静に判断できるようになるまで行動を控えましょう。
• 発信者・送信者の身元を確認する： 個人情報やお金を要求するメッセージを受け取ったときは、必ず発信者や送信者の身元を再確認してください。別の通信手段で電話をかけて本人確認を行いましょう。

一部のAIブラウザには、偽AIサイトを見分けるためのツールが組み込まれています。こうしたブラウザベースのツールの活用も、詐欺の検出に役立ちます。

AI詐欺の被害に遭ってしまったら

AI詐欺の約3分の1は成功しています。どれだけ予防策を講じていても、被害に遭うリスクはゼロにはなりません。AI詐欺の被害に遭ってしまった場合の対処法は以下の通りです。

• 侵害されたアカウントを保護する： パスワードを変更するか、影響を受けたアカウントを閉鎖しましょう。金融関連のアカウントの場合は、該当機関に連絡し、不正利用アラートを設定します。
• 詐欺をFTCに通報する： reportfraud.ftc.govにアクセスして詐欺を報告しましょう。これにより連邦当局が詐欺の追跡を行い、他の被害者が出るのを防ぐことにつながります。
• 警察に被害届を提出する： 最寄りの警察署に連絡し、被害届を提出してください。保険会社や銀行が返金や請求異議の対応に警察の被害届を必要とする場合があるため、直ちに行いましょう。
• すべてを記録する： ジャーナルをつけ、詐欺による影響をすべて記録します。財務諸表や警察の報告書を印刷し、詐欺師とのやり取りはスクリーンショットを撮って保存しましょう。明確な記録こそが、資金回収と加害者の責任追及の鍵となります。
• 金融口座を監視する： 口座に見覚えのない請求やその他の不審なアクティビティがないか、継続的にチェックしましょう。
• 信用情報を保護する： 主要な信用情報機関（Equifax、Experian、TransUnion）に連絡し、不正利用アラートを設定するか、クレジット凍結を行いましょう。クレジットの凍結により、誰も（本人含む）新しいクレジットカードなどの信用枠を開設できなくなります。不正利用アラートを設定すると、貸し手は信用を供与する前に本人確認を求める義務が生じます。
• デバイスをマルウェアスキャンする： アンチウイルスソフトを使用して、スマートフォン、タブレット、パソコンなどインターネットに接続されたデバイスをスキャンしましょう。隠れたウイルスやバックグラウンドで行われている悪意ある活動を発見できます。

ロボットに騙されないために

AIは、ディープフェイクからAI生成マルウェアまで、詐欺師に新しい手口の数々を与えてしまいました。しかし、だからといってAI詐欺の犠牲になる必要はありません。詐欺師の手口を見抜く術を身につけ、Norton 360 Deluxeで最新のAIサイバーセキュリティ保護を手に入れて、罠にかかるのを防ぎましょう。

Norton 360 Deluxeは、ハッカーのブロック、機密情報の保護、複数デバイスにわたるAI詐欺の監視を支援します。もう、オンラインで安全に過ごすためだけにサイバーフォレンジックの専門家になる必要はありません。

よくある質問（FAQ）

ChatGPTは安全ですか？

はい、ChatGPTは一般的に安全です。ChatGPTの開発元であるOpenAIは、高度なサイバーセキュリティ対策とコンテンツモデレーションを導入し、サイバー脅威、有害なやり取り、偽情報からユーザーを保護しています。

ただし、ChatGPTとの会話で個人情報を共有することは避けるべきです。OpenAIは研究目的で会話データを保存しているため、個人情報を共有すると、万一データ漏洩が発生した際のリスクが高まる可能性があります。

AI自体が詐欺なのですか？

いいえ、AIそのものは詐欺ではありません。AIは、機械学習アルゴリズムを用いてデータ内のパターンを認識し、結果を予測する正当な技術です。他のあらゆるテクノロジーと同様に、AIのメリットかリスクかは、その使い方次第です。

医師たちはAIを使って、より正確にがんを検出・予防しています。一方で、詐欺師たちはAIを悪用し、説得力のある詐欺を作り出して、被害者からお金や機密データを騙し取っているのです。