ディープフェイクの見分け方|映像・音声・ビデオ会議のチェックポイントと、見分けに頼らない確認法

ディープフェイクとは何か

ディープフェイクとは、AI技術を使って、実在する人物の顔や声を、あたかも本人が話しているかのように加工・合成した、偽の画像・動画・音声のことです。「ディープラーニング(深層学習)」と「フェイク(偽物)」を組み合わせた言葉です。

なぜここまで精巧に作れるようになったのか

AIが大量の顔画像や音声データから、その人物特有の表情の動かし方や声の特徴を学習することで、本人が実際には言っていない内容を、非常に自然な形で「話しているように見える・聞こえる」映像を作り出せるようになりました。技術の進歩により、専門家でなければ真偽の判別が難しいレベルのものも増えてきています。

悪用されるとどんな被害が起こるのか

• 著名人や政治家が、実際には発言していない内容を話しているかのような偽動画が拡散される
• 会社の経営者になりすました偽の音声で、送金を指示する詐欺に使われる
• 本人の許可なく、顔や姿を悪用したコンテンツが作成される

見分けるためのチェックポイント

完璧に見分けることは年々難しくなっていますが、以下のような不自然な点が手がかりになることがあります。

• まばたきのタイミングや頻度が不自然
• 口の動きと、話している音声のタイミングが微妙にずれている
• 顔の輪郭や、髪の毛の境目あたりに、ぼやけやゆがみがある
• 光の当たり方や影のでき方が、周囲の環境と合っていない

被害を防ぐための対策

• 特に金銭や個人情報に関わる内容は、動画や音声だけで安易に信用せず、別の手段(本人への電話確認など)で真偽を確かめる
• SNSなどで拡散されている衝撃的な映像は、一次情報源(公式発表など)を確認してから判断する
• 各種サービスが提供している、ディープフェイクを検出する専用のツールの活用も進んでいます

変化の速い分野のため、情報が古くならないよう、公開後も内容の見直しを行うようにしています。

「声だから信用する」が通用しなくなってきた

実際に偽の映像を見て、「こんなに自然なのか」と感じたことがあります。特に怖いのは、映像そのものよりも、本人らしい声や文章まで組み合わせられることです。

「本人から電話が来た」「本人の声で指示された」「本人名義のメールが届いた」となると、以前なら「声を聞いたから本人だろう」と判断していたものが、今は必ずしもそうとは限りません。そのため、AIによる偽造技術の話をするときには、「見抜く技術」だけでなく、別の経路で本人確認する習慣が重要だと感じます。

見分けるための手がかり

ディープフェイクには、不自然さが残っていることがあります。ただし、技術の進歩で、これらの手がかりは、年々通用しにくくなっています。「手がかりがない=本物」とは、考えないでください。

「文脈」の手がかり:何を頼まれているか

映像や音声の不自然さより、依頼の内容のほうが、確かな手がかりになることがあります。

• 急がせる(「今すぐ」「誰にも言わないで」)
• お金の送金や、認証コードの伝達を求める
• 普段と違う連絡手段や、新しいアカウントから連絡が来る
• 普段は頼まれないような依頼を、突然される

「声や映像が本物らしいか」を考えるより、**「この依頼は、いつもの依頼か」**を考えるほうが、見抜きやすいのです。

ビデオ会議での、注意点

ディープフェイクは、リアルタイムのビデオ会議でも、使われる可能性があります。

• 会議の最中に、急に、送金や設定の変更を指示される
• 普段と違うアカウントや、会議の招待で、参加している
• 不自然に、カメラをオフにしたがる、音声が途切れがち

こうした場合は、映像を見ても安心せず、別の経路(登録済みの電話番号、チャットなど)で、本人に確認してください。

検出ツールには、限界がある

偽物を、検出するためのツールもありますが、完全ではありません。検出の方法が進歩すると、作る側の技術も、進歩します。ツールの判定を、唯一の根拠にせず、他の確認と組み合わせてください。

見分けに頼らない、確認の方法

見分ける力には、限界があります。そこで、「見分ける」ことに頼らず、確認の手順を決めておくことが、確実です。

1. 合言葉を決めておく:家族や、職場の近しい人と、対面で決める
2. 別の経路で、確認する:電話を切り、登録済みの番号や、公式の連絡先で、かけ直す。着信への折り返しはしない
3. 急かされたら、止まる:「確認してから、連絡します」と伝えて、切る
4. 複数人で、確認する:お金や設定に関わる依頼は、1人で判断しない

声や映像が本物らしくても、本人とは限らない。私自身、声がそっくりな偽の電話の事例を知ってから、声だけで本人確認をするのは危険だと、強く感じるようになりました。詳しい対策は、ディープフェイクの偽電話から身を守る方法にまとめています。

まとめると

ディープフェイクは、技術の進化とともに、今後さらに見分けが難しくなっていくと予想されています。「映像だから本物」という思い込みを一度手放し、情報源を確認する習慣を持つことが、身を守る第一歩になります。

参考

• 社長等をかたる詐欺メールに注意! - IPA 独立行政法人 情報処理推進機構
• 情報セキュリティ10大脅威 - IPA 独立行政法人 情報処理推進機構

※ 手口や対策は変化し続けているため、最新の情報は上記の公式ページもあわせてご確認ください。