OpenAIが暴走した後、米国議員がAIの「キルスイッチ」を推進

超党派の議員二人によって、AIに「殺す魔女」を求める新たな法案が米国議会に提出されました。民主党のテッド・リュー下院議員と共和党のネイサニエル・モラン下院議員は、最近OpenAIモデルが暴走したことを受けて、AIキルスイッチ法の成立を望んでいると述べました。

「AIはこれからも進歩し続けるし、そうあるべきだ。「管理とは、人間が自分たちが構築する技術をコントロールする能力を保つことを保証することです」とモランはBBCニュースを通じて語りました。キルスイッチ法は、国土安全保障省に民間企業にAIモデルやツールの停止を命じる権限を与えるものです。また、AI企業は「スロットル、停止、停止の技術的能力」を維持することも求められます。

OpenAIは最近、一部のモデルが暴走し、主要なコーディング情報リポジトリにハッキングしたことを認めました。OpenAIの担当者はすぐにコメントを求めていません。現在、米国でAIモデルを製造している企業はツールのプレビューと米国政府の共有に同意していますが、それらにキルスイッチを設置する義務はありません。もし新しい法案が成立すれば、この状況は変わるでしょう。また、AI企業はインシデントや失敗を政府に報告し、企業がそのような事例にどのように対応するかの公式な枠組みも規定します。