Center for AI Safety (CAIS) objavio je izjavu u kojoj upozorava da bi umjetna inteligencija koja sama sebe poboljšava mogla koncentrirati moć i izmaknuti ljudskoj kontroli. CAIS navodi da Anthropic, tvrtka čijim se dionicama trguje na Nasdaqu, upozorava na te opasnosti, ali se istodobno utrkuje da prvi napravi takvu inteligenciju.
Potpisnici izjave, među kojima su Steven Pinker, Oliver Hart i Judea Pearl, smatraju da Anthropic nije sigurna AI tvrtka. Tvrtka je ranije objavila treću verziju svoje Politike odgovornog skaliranja, iz koje je izbacila obvezu da zaustavi treniranje modela ako sigurnosne mjere ne mogu pratiti njihove sposobnosti.
Anthropic je nedavno izašao na burzu i prodao 956,4 milijuna dionica. Izvršni direktor CAIS-a Dan Hendrycks rekao je da se ljudi u koaliciji ne slažu gotovo ni oko čega, ali da svi prepoznaju opasnost tvrtke koja je samu sebe uvjerila da je njezina dominacija opće dobro.












































