フェイスブックの政治広告スペースは、ディープフェイク詐欺や欺瞞的なコンテンツの遊び場になりつつあり、同プラットフォームのトップ広告主の一部は、存在しない政府の支払いを約束する米国の政治家の動画を捏造している。
この夏、ホワイトハウス報道官のキャロライン・リービット氏の改ざんビデオが、アメリカ人が5,000ドルの救済小切手を請求できると主張し、ユーザーをGet Covered Todayというサイトにリダイレクトした。同様の偽ビデオには、エリザベス・ウォーレン上院議員とバーニー・サンダース上院議員が同じ約束をしている様子が描かれていた。「これは仕掛けではない」とウォーレンのなりすましは述べたが、実際にはそうだった。
Tech Transparency Project による新しい 分析 ( ニューヨーク タイムズ経由) によると、このような欺瞞的な戦術を使用する 63 の広告主が、Facebook の政治広告費上位 300 人の約 5 人に 1 人を占めています。
彼らは合わせて約15万件の広告を掲載し、過去7年間で約4,900万ドルを費やした。これらのアカウントの多くは停止されていますが、半数以上が今週まで新しい広告を投稿し続けました。
ウォーレン上院議員は「アメリカ人を騙すために使用されているディープフェイクAI動画よりも悪いのは、メタが詐欺広告から数千万ドルを稼いでいるという事実だ」と述べ、オンラインでの消費者保護の厳格化を求めた。
フェイスブックを所有するメタ社は、役人になりすました広告や欺瞞的な行為を採用する広告を禁止しており、これらの規則を「強力に」施行すると主張し、技術的防御への投資を約束している。しかし、批評家らは、同社の執行は遅く、大部分が自動化されており、事後対応型であり、詐欺のフラグを立てるにはユーザーや研究者に依存していると述べている。
AI ツールの台頭により、欺瞞的な広告の作成が容易になり、ソーシャル メディア プラットフォームは現在、電話詐欺やテキスト詐欺を上回り、オンライン詐欺の主な媒介となっています。シンガポールを含む連邦規制当局や政府はメタ社に対し取り締まりを迫っており、プラットフォームが行動を起こさなければ罰金を科すと脅迫している。
Meta の広告収入が年間 1,600 億ドルに近づく中、Tech Transparency Project の分析によると、プラットフォームの完全性やユーザーの安全性よりも短期的な利益が優先されることが多いことが示唆されています。
「振り子は、プラットフォームの長期的な健全性よりも、より短期的な収益の考慮に傾いています」と、元Meta従業員でオンライントラストの専門家であるロブ・レザーン氏は述べています。「おそらく、ある時点で逆方向に振らざるを得ないでしょう。」
