著名人を悪用したデマキャンペーンが拡大

オンラインのセキュリティ対策製品を提供しているマカフィー株式会社（本社：東京都千代田区）は、開催中の大規模国際スポーツ大会といった注目が集まる機会に乗じた詐欺が増加していることを明らかにしました。詐欺師らは熱気を帯びるイベントを利用し、偽のチケットから模倣品の販売まで、警戒心が緩んでいるファンに悪質な詐欺を働きます。

こういった詐欺には高度なソーシャルエンジニアリング技術（人間の感情を利用して、重要な情報を侵害する手法）が使われており、AI（人工知能）の進歩でこれまで以上に巧妙な詐欺が身近なものになっています。音声クローニング技術を使うと、詐欺師は低コストで説得力のある偽の音声メッセージを作成することができます。昨年マカフィーが発表したAI音声詐欺の調査では著しい結果が出ており、高度な複製技術が詐欺師の手に渡った際の脅威が増していることを示しています。

直近では、大規模国際スポーツ大会に絡めたとある動画で、著名な起業家であるイーロン・マスク氏の声でナレーションされた架空のディープフェイク版のシリーズがストリーミングサービスで注目を集めています。該当動画は、詐欺師が著名人を利用して信憑性のあるストーリーを作り出してフェイク情報を拡散し、いかなる手段を使って人々を欺こうとしているかを知ることができます。

国際的なイベントの開催タイミングに合わせて詐欺を働くケースが多いので、特に規制が緩いプラットフォームでみられるセンセーショナルな主張が真実かどうか問い続けることが重要です。巧妙な詐欺に騙されないように、常に公式チャンネルを通じて情報を確認することを推奨します。

このようなフェイク動画を制作したクリエーターは、人気のあるストリーミングサービスの作品であることを主張するだけではなく、信頼できる出版社からの捏造された支持のコメントやレビュー画像も広め、人々の心情をあおる詐欺を仕掛けます。

フェイク動画の主な手法としては、AI音声クローニング、画像拡散、リップシンク（画面の唇の動きと発せられる音声が連動している状態）などがあります。動画がまるで本物のシリーズ作品に見えるように、巧妙に作られています。しかし、動画の中には画像を重ねて使用しているシーンが多くあり、注意深く見ると特定の不具合や違和感を確認できます。

元の素材は、ウォール・ストリート・ジャーナル（WSJ）のインタビュー動画が使用されており、その上から修正が加えられています（背景に注目）。音声クローンは、人間の耳ではほとんど区別ができません。

イーロン・マスク氏の声は以前から模倣の対象となっていました。マカフィーが発表した2023年ハッカーセレブリティホットリスト（英語のみ）では6位にランクインし、暗号通貨詐欺で最も頻繁に模倣される著名人の一人でもあります。

ディープフェイクや関連する詐欺の蔓延が、情報操作やデマキャンペーンとともに増加の一途をたどるなか、マカフィーは、ディープフェイクの音声検出技術を開発しました。5月の「RSAカンファレンス2024」でIntelのAI PCに搭載されたMcAfee® Deepfake Detector（旧称「プロジェクト・モッキングバード(Project Mockingbird)」は、人々が虚構と真実を見分けるのを助け、AIが生成した捏造音声を利用して、金銭や個人情報の収奪、ネットいじめ、著名人の公共イメージを操作する詐欺を行うサイバー犯罪者から消費者を守ります。

国際イベントの開催に合わせてAIツールを利用した詐欺が急増するため、自宅で応援するとしても、警戒心を持つことが重要です。特典をうたう未承諾のテキストメッセージには警戒し、見知らぬウェブサイトを避け、さまざまなソーシャルプラットフォームで共有される情報に対しては懐疑的であることが必須です。批判的な目を持ち続け、オンラインでの安全性を高めるツールの使用を推奨します。

マカフィーは、AIが生成したコンテンツを識別するツールを提供し、必要に応じてその適用に関する認識を高めることで、消費者が十分な情報を得た上で意思決定できるよう支援しています。

AIコンテンツは現在、ますます信頼性が高まっています。オンラインでコンテンツを閲覧する際の主な推奨事項は次の通りです：

1. 信頼できないソース（情報元）からのコンテンツには懐疑的になる
   常に疑いの目を持って確認します。信頼に欠ける情報元の場合、コンテンツは規制が緩いプラットフォームのみでアクセス可能で、一般的ではないパブリッククラウドストレージに投稿されています。
2. コンテンツを閲覧する際には警戒心を持つ
   ほとんどのAIによる捏造は何らかの欠陥を持っていますが、一目見ただけではそのような不一致を見つけることはますます難しくなっています。動画内で偽造されたと思われる明らかな指標をいくつか指摘しましたが、音声はさらに複雑です。
3. 情報をクロス検証する
   コンテンツのクロス検証は、検索エンジンでタイトルに基づいて行うか、人気のストリーミングサービスのコンテンツを検索することで、おかしな点に気づくことができます。