米国当局は、 Anthropicが開発した新しいAIモデルに関連するサイバーセキュリティリスクへの懸念が高まる中、銀行幹部をワシントンに呼び寄せました。この会合は財務長官スコット・ベッセントが主導したとされ、同社の最新システム「 クロード・ミトス」の発表直後に行われました。
出席者の中にはジェローム・パウエル氏が含まれ、ゴールドマン・サックス、バンク・オブ・アメリカ、シティグループなどの大手金融機関の幹部も出席しています。この集まりは、人間の専門家と同等かそれ以上のレベルでソフトウェアの脆弱性を特定し悪用できる高度なAIツールがもたらす潜在的なリスクに焦点を当てています。
Anthropicは最近、自社モデルが広く使われているシステムの中からこれまで発見されていなかった数千の弱点を発見し、ハッカーによる悪用の懸念を呼び起こしました。今月初めにモデルのコードが漏洩したことで懸念が高まり、同社は経済や国家安全保障への広範な影響が重大になる可能性があることを認めました。
これに対し、Anthropicはこのモデルへのアクセスを大手テック企業やインフラ組織を含む限られたグループに限定しました。これは同社が初めて製品のリリースを限定したケースとなります。
