フィナンシャル・タイムズによると、昨年3万人を解雇したAmazonが複雑なコーディングにAIを使うことの結果に直面しているため、緊急会議が開かれました。新聞社には内部通知が送られ、すべてが順調ではないことやメール資料が明らかにされました。上級副社長のデイブ・トレッドウェルがそのメモまたはメールの著者であり、AIを使ったコード変更は上級エンジニアが見落とし承認しなければならないと要請されています。
Amazonは、自社のシステムがクラッシュ、いわゆる「障害」が発生している理由を調査するための会議を開き、上級エンジニアがその原因を調査しました。生成AIにも責任があり、同社のスタッフへの直接メールでは「サイトおよび関連インフラの利用可能性に関する問題」が直接認められています。これには、10,000+人の顧客がサイトからチェックアウトできなかったり、アプリが動作しなかったり、完全にクラッシュしたり、Amazon Web Servicesが自社の13時間のクラッシュをAIコーディングによるものと追跡したとされる例が含まれており、それだけではありませんでした。フィナンシャル・タイムズによると、これは実際にはAIによるもので、特にAmazonのKiroコーディングボットによるものでした。Amazonはこれを全面的に否定し、単なる人為的ミスだと主張する 声明 を出しました。
業界アナリストは、AIがもはや単なる支援ツールではなく、積極的に変化を起こしていることに起因すると指摘しています。Amazonのような企業に多額の実効的な損失をもたらしたり、AIシステムClaudeのように多くの人間の作業時間を費やしたりしています。最近では、いくつかの例 で、 影響を考えずに一瞬でデータベース全体を消し去ったこともあります。