英国の通信規制当局OfcomがGrokに対して初めて懸念を示してからわずか数日後、監視機関は対応を強化し、イーロンマスクのXに関するAIチャットボットの画像生成能力に関する 正式な調査 を開始しました。
本日Xで発表したように、「私たちは Xが英国の人々を違法コンテンツから守る義務を果たしているかどうかを調査するため、オンライン安全法に基づく正式な調査を開始しました。」
今月初め、OfcomはXとxAIに連絡を取り、Grokが「裸の人々の画像や子どもの性的画像」を生成するために使われているかどうかを評価したことを確認しました。本日、その初期の調査は、プラットフォームが英国のオンライン安全法に基づく法的義務に違反しているかどうかを調査する本格的な調査へと進んでいます。
月曜日に発表された声明で、OfcomはXが英国のユーザー(特に子どもたち)が違法な性的コンテンツ、すなわち同意のない親密な画像やAI生成の児童性的虐待資料に曝露されるリスクを適切に評価しなかったかどうかを調査していると述べました。
この問題はその後、直接的な政治的介入を引き起こしている。キ ア・スターマー首相 は、Grokが生成した画像を「不快」かつ「違法」と表現し、Xは自社のAIツールの使い方を「掌握しなければならない」と述べました。閣僚たちは、違反が見つかった場合に制裁(プラットフォームレベルの制限を含む)が検討されていることを確認しています。
Xは違法コンテンツの削除、問題アカウントの停止、当局との協力を主張しており、Grokを使って違法な画像を作成する者は処罰を受けると述べています。Ofcomは、最も深刻な場合には、広告や決済サービスの停止、さらに は英国でのプラットフォームへのアクセスの遮断が執行措置となる可能性があると警告しています。
この物語を時系列でお読みください:
- Grokは、多くのユーザーが女性の服を外すよう求めたことを受けて、メディアタブを削除しました。
- 英国の通信規制当局Ofcomは「子どもの性的画像」を理由にグロックを批判。
- イギリスはGrokの生成イメージ騒動を理由にXを禁止する可能性があります。
