Razvojni programeri tvrde da se umjetna inteligencija sve više približava mogućnosti samostalnog unapređenja. Taj proces naziva se rekurzivno samopoboljšanje (RSI), pri čemu modeli pronalaze načine da se unaprijede sami i izgrade nasljednike. Nesigurnost oko mogućih posljedica izaziva rastuće strahove da bi AI mogla izbjeći ljudsku kontrolu i predstavljati prijetnju čovječanstvu. Zbog toga je nekoliko istaknutih AI stručnjaka prošlog vikenda sudjelovalo u pozivu da se uspori tempo razvoja tehnologije.