Tvrtka Anthropic, koja stoji iza chatbota Claude, upozorila je na mogućnost da se njezina tehnologija iskoristi za razvoj kemijskog oružja ili da umjetna inteligencija izmakne ljudskoj kontroli. U dokumentaciji za planirani izlazak na burzu Anthropic je naveo mogućnost da se njezina tehnologija upotrebi za razvoj opasnog oružja ili za ucjenjivanje ljudi.
Tvrtka je također upozorila da bi njezini AI agenti mogli biti iskorišteni u zlonamjerne svrhe, kao što su izvlačenje podataka ili umetanje zlonamjernog koda u druge sustave. Anthropic je naveo da je prošle godine otkrila kako je hakerska skupina, koju sponzorira kineska država i koja je manipulirala njezinim alatom za programiranje u pokušaju infiltracije u približno 30 ciljeva diljem svijeta.
Tvrtka je potencijalne ulagače pokušala umiriti porukom da vjeruje kako je potencijal izniman ako se moćna umjetna inteligencija usmjeri na rješavanje najtežih problema čovječanstva, a rizicima se upravlja odgovorno.
