テクノロジー企業は、同意のない親密な画像(ディープフェイクヌードを含む)を削除するために わずか48時間 以内に削除しなければ、数百万ドルの罰金を科され、英国でブロックされる可能性があると、キア・スターマー首相は述べました。
オンラインの女性蔑視を「国家的緊急事態」と表現し、スターマーは犯罪・警察法案の改正案を発表し、虐待的なコンテンツが指摘された際にプラットフォームに迅速な対応を強制するものとしました。遵守しなかった企業は、世界収益の最大10%の罰金を科されるか、Ofcomによる執行によりサービスが制限される可能性があります。
これらの措置は、今年初めに女性の性的画像生成で反発を受けたxAIが開発したGrokのようなツールを通じて作成された画像を含むAI生成コンテンツにも適用されます。大臣たちは、安全策を導入しなければより強力な措置が取られる可能性があると警告していた。
被害者は 、プラットフォームやOfcomに直接悪質な内容を報告でき、複数のサイトでアラートが発動され、繰り返しアップロードを防ぐことができます。規制当局はまた、デジタルウォーターマークやハッシュマッチングシステムを模索し、再投稿を自動的に検出・ブロックする計画も検討する予定です。
この改正により、同意のない親密な画像の作成や共有はオンライン安全法の下で「優先犯罪」と分類され、児童性的虐待資料やテロ関連コンテンツと並ぶものとなります。
スターマー氏は、虐待に対処する責任は被害者から加害者や有害な資料をホストする企業へと移るべきだと述べました。「被害者はプラットフォームをまたいでコンテンツを追いかけざるを得ないことが多いが、その間も拡散は続いている」と彼は書いている。「それは正義ではなく、失敗だ。」
