Neki od najutjecajnijih istraživača umjetne inteligencije i vođa laboratorija upozoravaju vlade da bi sustavi umjetne inteligencije mogli postati toliko sposobni da dizajniraju bolje sustave umjetne inteligencije, što bi omogućilo umjetnoj inteligenciji da napreduje brže nego što ljudi mogu učinkovito pratiti. Prema izvještaju, automatska istraživanja umjetne inteligencije mogla bi postati dovoljno dobra da ubrzaju vlastito poboljšanje i izazovu „eksploziju inteligencije“ umjetne inteligencije. Autori izvještaja, među kojima su i Nobelov laureat Geoffrey Hinton i kanadski računalni znanstvenik Yoshua Bengio, navode da bi takav razvoj mogao donijeti velike koristi, uključujući brža otkrića u medicini i druge velike tehnološke proboje. Međutim, upozoravaju da bi isti dinamizam mogao oslabiti ljudsku kontrolu. Neke tvrtke koje se bave umjetnom inteligencijom već koriste umjetnu inteligenciju za izgradnju vlastitih sustava. Anthropic navodi da umjetna inteligencija generira 80% svog vlastitog koda, dok OpenAI koristi autonomne agente umjetne inteligencije za zadatke uključujući obuku novih modela. Istraživači ističu da bi moguće opasnosti bile dovoljno značajne da bi vlade na najvišim razinama trebale biti pripravljene.