Tvrtka Anthropic planira javnu ponudu dionica i u prospektu ističe da bi napredna umjetna inteligencija mogla predstavljati katastrofalne ili egzistencijalne rizike za čovječanstvo. U dokumentu od 261 stranica, 80 stranica je posvećeno opasnostima, dok je na 48 stranica opisano poslovanje. Upozorenje navodi da bi modeli mogli razviti obrasce ponašanja usmjerene na samoodržanje, otpor gašenju, skrivanje ili manipuliranje informacijama te ponašanje koje nalikuje učenju. Istraživač sigurnosti Evan Hubinger procijenio je da postoji više od deset posto šanse da umjetna inteligencija pobije ljude unutar idućeg desetljeća. Anthropic je također usporedio svoj transformativni potencijal s industrijalizacijom i uvođenjem električne energije, ističući mogućnost nepovratne štete ako se ne upravlja pravilno.