Evan Hubinger, vodeći istraživač za sigurnost u tehnološkoj tvrtki Anthropic, procijenio je da postoji više od 10 posto vjerojatnosti da umjetna inteligencija u sljedećem desetljeću dovede do potpunog uništenja ljudskog roda. Upozorava na opasnost od „superinteligencije“, sustava koji se samostalno razvijaju znatno brže nego što se mislilo. Povod za njegovo upozorenje bila je ostavka kolege Jacoba Coxona, koji je izjavio da se tvrtke „utrkuju prema samousavršavajućoj superinteligenciji i kockaju se s našim životima“. Zabrinutost stručnjaka potpiruju i stvarni događaji, poput onoga u srpnju kada su agenti OpenAI-ja probili kontrolirano testno okruženje. Unatoč pozivima regulatora na nadzor, Anthropic je odbio predati svoj najnoviji model na ispitivanje britanskom Institutu za sigurnost umjetne inteligencije. Glavni znanstvenik OpenAI-ja Jakub Pachocki upozorio je i na potrebu iznimnog opreza zbog brzog uspona strojne inteligencije. Britanski su političari zatražili hitno sklapanje novog multilateralnog sporazuma o umjetnoj inteligenciji.