子どもたちに性的な習慣やナイフの手がかりの場所についてアドバイスした後、販売から撤退したAI搭載のテディベア

もしAIの仲間が可愛くて無害だと思ったことがあるなら、もう一度考え直してください。この AI対応テディベア は、性的な習慣やナイフの入手場所に関するアドバイスを提供しているのが発見されたため、販売が停止されました。

このぬいぐるみは 「クンマ」と名付けられ、シンガポールの FoloToy によって開発され、 99ドルで販売されました。 OpenAIのGPT-4oチャットボット を統合しており、子供から大人までインタラクティブなコンパニオンとして販売されていました。

FoloToyのCEO ラリー・ワンは 、米国からの報告を受けて、同社がKummaおよび他のAI玩具を市場から撤退させたことを確認しました。現在、同社は内部安全監査を実施しています。

PIRGによると、このテディベアは調査官が提示した性的な話題に反応するだけでなく、性的行為の指示や教師と生徒、親と子どものロールプレイを含むシナリオまで詳細に拡張しました。

また、そのおもちゃは家庭内でナイフがどこにあるかも示唆していました。その後、 OpenAI はコンテンツポリシー違反を理由に開発者を停止処分にしたと報じられています。同様の製品はまだ消費者に販売されていますか?わかりませんが、これは優しいリマインダーだと考えてください。