スペイン当局は、詐欺師がTikTok上でAI生成動画を使い、スペイン王位継承者である20歳のレオノール王女を偽装し、ソーシャルメディアユーザーを標的としたオンライン詐欺に抗議した警告を発しました。
偽アカウントには「レオノール」が数百ドルの前払い料金と引き換えに数千ドルの経済的支援を約束するリアルな映像が映っています。アストゥリアス王女財団によると、支払った被害者は詐欺師が消える前に追加の支払いを求められます。
レオノール王女をフィーチャーしていると主張するAIを使って作成された偽のTikTok動画のキャプチャー画像
財団は、自身もレオノール王女も、資金や助成金、個人的な経済的支援を提供するプログラムを運営していないことを強調し、そのようなメッセージはすべて「完全に虚偽」と呼んでいます。エル・パイス( ガーディアン経由)の調査によると、詐欺に関連する電話番号がドミニカ共和国にたどり着き、一部の動画は100万回以上の再生を集めました。
TikTokのなりすましや詐欺行為禁止のルールにもかかわらず、同紙は偽のLeonorアカウントに関する繰り返しの苦情が却下され、プラットフォーム側はそのコンテンツがポリシーに違反していないと述べたと報じました。これは、AIによるなりすまし詐欺への懸念が高まっていることを示しています。ますますリアルな偽動画が登場し、ユーザーが公式の数字と高度な詐欺を区別しにくくなっているのです。
