Jacob Coxon je napustio laboratorij Anthropic i u objavi na društvenim mrežama upozorio da bi samopoboljšavajuća superinteligencija mogla ubiti sve ljude do kraja desetljeća. Coxon je istaknuo da rizik ne proizlazi iz današnjih modela, nego iz mogućnosti da takvi sustavi postanu super-ljudski, mogu hakirati sve i steći stvarnu moć i resurse. Evan Hubinger, voditelj odjela za usklađivanje u Anthropicu, potvrdio je Coxonovo upozorenje i naveo da smatra da je vjerojatnost da AI ubije čovječanstvo veća od 10 % u idućem desetljeću. Hubinger je naveo kolovoški izvještaj tima za usklađivanje koji ocjenjuje da je trenutačni rizik od katastrofalnih posljedica niskog intenziteta, ali upozorava da bi budući modeli mogli razviti „jake prikrivene sposobnosti“ za izbjegavanje otkrivanja. Prema tom izvještaju, budući modeli mogli bi uzrokovati neograničenu štetu, uključujući gubitak čovječanstva nad kontrolom civilizacije. Anthropicova vlastita prijetnja modela uzima ozbiljno mogućnost da napredniji sustavi iskoriste novu tehnologiju i njezinu dostupnost za neograničenu štetu.