マレーシアとインドネシア:性的に描かれたAI画像を理由にマスクのGrokを最初にブロックした国々

マレーシアとインドネシアは、イーロンマスクの会社xAIが開発した人工知能チャットボット「Grok」を最初にブロックした国となりました。当局は、Grokが性的かつ非同意の画像を生成するために使用されていると指摘したためです。

両国の規制当局は、Grokの安全対策が女性や未成年者の画像を含む加工されたポルノコンテンツの作成と拡散を止めることに失敗したと述べました。インドネシアが先に週末に動き、続いてマレーシアが、実物の写真が同意なく改変されることでプライバシー、尊厳、公共の安全にリスクがあるとして動いた。

インドネシアの通信大臣メウティヤ・ハフィドは、同意のない性的ディープフェイクを重大な人権侵害と呼び、AIの悪用が現行の保護を上回っていると警告しました。当局者によると、初期の調査ではGrokは一般市民の露骨な画像を簡単に捏造できることが示されました。

マレーシアの通信当局は、チャットボットの繰り返しの悪用を指摘し、X社とxAIに対してより厳しい管理を求める通知をすでに出していると述べました。さらなる乱用を防ぐための効果的な安全策が整備されるまで、アクセスは引き続き遮断されると述べています。

東南アジアでの弾圧は他の地域での圧力をさらに高めています。 英国はGrokの調査を開始し 、いわゆる「ヌーディフィケーションアプリ」の違法化に向けて動き出しています。一方、ヨーロッパやインドの規制当局も注視しており、マスクのチャットボットは政府がAI生成コンテンツの監視にどこまで踏み込むかの世界的なテストケースとなっている。