AIで作られた動画や音声は年々精巧になり、「よく見れば分かる」とは言い切れません。確実性が高いのは見た目のチェックではなく、元の情報源をたどることと、お金・個人情報・認証コードが関わるときに別の手段で本人確認をすることです。
なぜ見た目だけでは足りないのか
米国FBIのインターネット犯罪苦情センター（IC3）は2024年12月の注意喚起で、犯罪者が生成AIを使い、役員や公的機関の担当者になりすます例を挙げています（英語）。米国FCCも、有名人や身近な人の声をまねた音声や、偽動画へ誘導する不審なメッセージに注意するよう案内しています（英語）。
検出ツールにも限界があります。GoogleのGeminiの電子透かし（SynthID）確認は、同社のAIで作られたものしか判別できないと説明されており、結果が出なくても本物とは限りません。ツールは手がかりであって、判定ではありません。
目視の手がかりは「疑う材料」まで
FBIの注意喚起には、手や目の不自然さ、顔のゆがみ、影の不一致、動きの不自然さなどが挙がっています。確認する価値はありますが、技術の進歩で当てにならなくなる点と、欠点がなくても本物とは限らない点に注意してください。手がかりは疑いを強めるために使い、安心の根拠にはしません。
技術に左右されない手がかりは「台本」です。急がせる、秘密にさせる、感情に訴える、すぐ支払わせる。この形なら、AIかどうかに関係なく詐欺として扱います。
6つの確認手順
| 手順 | やること |
|---|---|
| 1. 出どころを探す | 最初に投稿した人や媒体は誰か。引用だけで広まっていないか |
| 2. 画像検索 | スクリーンショットを撮って画像検索し、以前の別の投稿がないか調べる |
| 3. 他の信頼できる情報と照合 | 同じ内容を公式サイトや複数の報道が伝えているか |
| 4. 文脈を見る | 本人がそんなことを言う理由があるか。急な投資話や頼みごとではないか |
| 5. 別の手段で本人確認 | 知っている電話番号にかける。相手が用意した連絡先は使わない |
| 6. 支払い・コードは保留 | 確認が取れるまで、送金・認証コードの提供・リンクのクリックをしない |
Googleの「この画像について」を使うと、画像の出どころや過去の掲載を調べられます。表示の名称や手順は更新で変わることがあるため、ヘルプで最新を確認してください。
動画通話で「本人」が頼んできたら
ビデオ通話の映像や音声もなりすましに使われることがあります。通話中に金銭や機密情報を求められたら、その場で応じず、いったん切って、自分から知っている番号にかけ直します。家族や会社で、緊急時に使う合言葉や確認ルールを決めておくのも有効です。
自分や家族の写真が使われたら
SNSの公開範囲を見直し、不要な写真や動画を減らします。なりすましを見つけたら、そのサービスの通報機能で報告し、必要に応じて警察や相談窓口へ。相談先の最新情報は各公式サイトで確認してください。
小さな会社・店舗で決めておくルール
- 支払いや口座変更は、二人で確認する。 社長や取引先を名乗る連絡でも、メールやチャットだけで振込先を変えません。
- 別の経路で確認する。 以前から登録してある電話番号にかけます。
- 緊急でも例外にしない。 急ぎであるほど、確認のルールを守ります。
- 従業員に共有する。 「経営者の声そっくりの電話」があり得ることを知っておくだけで、被害は減ります。
画像や動画を共有する前に
話題になっている動画ほど、出どころが不明なことがあります。共有する前に、元の投稿、日付、場所、他の報道を確認し、確認できなければ共有しない、というのがいちばん安全です。
実際にありそうな場面と対応
| 場面 | 起こること | 対応 |
|---|---|---|
| 上司や取引先を名乗るビデオ通話 | 「至急、送金してほしい」と頼まれる | 通話を切り、登録済みの番号にかけ直す。社内の承認手順を守る |
| 有名人が出てくる投資の動画広告 | 「今だけ」「必ず儲かる」と登録や入金を促される | 広告から登録しない。公式サイトや公的な窓口で確認する |
| 家族の声の緊急電話 | 事故やトラブルを理由に送金を求められる | いったん切って、以前から知っている番号に折り返す。合言葉を使う |
| SNSで流れてきた衝撃的な動画 | 事実かどうか分からないまま拡散される | 元の投稿と日付を確認し、確認できなければ共有しない |
どの場面でも共通するのは、「急がせる」「他の人に相談させない」「お金や認証コードを求める」の3点です。映像や音声が本物らしく見えても、この3点がそろったら止まって確認します。
手順やメニュー名は、機種・OSのバージョン・契約先によって異なります。最新の表示は各社の公式ヘルプでご確認ください。
この記事は一般的な情報提供を目的としています。金融・法律・個別の被害については、金融機関・警察・公的な相談窓口にご相談ください。
よくある質問
ディープフェイクは目で見分けられますか？
手や影の不自然さなどが手がかりになることはありますが、確実ではありません。見た目だけで判断せず、出どころの確認と別の手段での本人確認を組み合わせてください。
AI判定ツールで本物か分かりますか？
手がかりにはなりますが、結論にはなりません。特定の会社のAIで作ったものしか判別できないツールもあり、結果なしは本物の証明になりません。
家族を名乗る音声通話でお金を頼まれました。
電話を切り、以前から知っている番号へかけ直してください。声が似ていても、要求が金銭やコードなら確認が取れるまで応じないでください。
偽動画を見つけたらどうしますか？
拡散せず、投稿先の通報機能で報告します。名誉やお金の被害がある場合は、警察などの相談窓口に連絡してください。
参考情報: FBI IC3（英語）：犯罪者による生成AIの悪用 · FCC（英語）：ディープフェイク音声・動画 · Google検索ヘルプ：この画像について · 警察庁
