Według Financial Times, odbyło się pilne spotkanie, ponieważ Amazon, który w zeszłym roku zwolnił 30 000 osób, teraz ponosi konsekwencje wykorzystania AI do skomplikowanego kodowania. Gazeta otrzymała wewnętrzną notatkę, która ujawnia, że nie wszystko jest w porządku, a także materiały e-mailowe, a Dave Treadwell, starszy wiceprezes, jest autorem notatki lub jednego z e-maili, i prosi, by starsi inżynierowie musieli teraz przeoczyć i zatwierdzić wszelkie zmiany w kodzie wprowadzone za pomocą AI.
Amazon zorganizował spotkanie, aby sprawdzić, dlaczego ich systemy miały awarie, czyli tzw. "awarie", a starsi inżynierowie byli proszeni o wyjaśnienie przyczyn. Generatywna AI bierze część winy, a bezpośredni e-mail do pracowników firmy przyznaje się do problemów z "dostępnością na stronie i powiązanej infrastrukturze". Dotyczyło to 10 000+ klientów, którzy nie mogli dokonać zakupów na stronie, aplikacja nie działała i wręcz się zawieszała, a Amazon Web Services rzekomo śledził własny 13-godzinny crash na podstawie kodowania AI, i nie był to jedyny taki problem. Według Financial Times było to faktycznie zasługą AI, czyli własnego bota kodującego Kiro Amazona. Amazon wydał oświadczenie, które całkowicie temu zaprzeczyło, obwiniając o to zwykły błąd ludzki.
Analitycy branżowi zwracają uwagę, że problemy pojawiają się, gdy AI nie jest już tylko narzędziem wspomagania, lecz aktywnie wprowadza zmiany, kosztując firmy takie jak Amazon bardzo realne pieniądze lub zużywając dużo czasu pracy, jak system AI Claude, który wielokrotnie, niektóre z ostatnich lat, Usuwałem całe bazy danych w ułamku sekundy, nie biorąc pod uwagę konsekwencji.