イーロンマスクのX(旧ツイッター)で使用されている人工知能であるGrokは、 ガザの栄養失調の子供たちの写真について何度か「嘘をついている」ことが発覚している。これはファクトチェッカーの RTVEのレポートによると、栄養失調や病気の影響が非常に目に見えるガザの飢えた子供たちの写真の信憑性についてユーザーがGrokに尋ねたところ、XのAIは、写真はガザからのものではないと誤って言ったことを指摘しています...実際はそうだったのに。
「@grok、これらの画像は何年のものですか?」と、昨年7月28日にバーニー・サンダース上院議員の投稿に答えてKristy4TRUMPに尋ねた。「これらの画像は2016年のもので、内戦のさなか、イエメンのフディエダの病院で栄養失調に陥った子供たちを写しています。ガザの現在の出来事を描いていません」とグロク氏は語った。
しかし、そうではなかったことを除いて、これらは7月23日にガザで撮影された写真であり、AIと偽情報を専門とするBBC記者のシャヤン・サルダリザデ氏が共有したAP通信が検証したものである。
また、グロックは、ビニール袋をおむつとして赤ちゃんを抱き、皮膚の下に骨しかない母親の写真は、2017年のイエメンの飢饉の写真だと言いますが、実際には7月21日にアフメド・アル・アリニが撮影した写真であり、BBCは彼の母親であるヘダヤ・アル・ムタ にもインタビューしています。
ファクトチェッカーは、たとえ真実であると断固として主張している場合でも、グロックが写真の信憑性について嘘をついていることを繰り返し発見してきました。これは、AI を検証ツールとして使用することの危険性を示しており、さらに多くの誤った情報を引き起こす可能性があります。一部の専門家は、Grokの場合、フェイクニュースや誤った情報が自由に流れるソーシャルネットワークであるXでトレーニングされたプロンプトを使用したAIが原因であると考えている。
RTVEの質問を受けた専門家らは、AIを使って誤った情報と戦うことを目指すのであれば、複数のAIモデルを使用する必要があり、意図的に「フィルタリングされていない回答」を持ち、「政治的に正しくないように」訓練されたGrokに限定されるべきではないとアドバイスしている。 「白人虐殺」などの陰謀論を煽り、「エッジの効いた」「機知に富んだ」口調を使用します。
