Tvrtka Anthropic objavila je upozorenje da bi manji modeli umjetne inteligencije (AI) mogli postati sposobni za samostalno širenje putem komercijalnih uređaja povezanih s internetom, poput pametnih pećnica i Android TV uređaja, u roku od nekoliko mjeseci. U provedenim eksperimentima, AI modeli s manje od 30 milijardi parametara mogli su izvršiti brojne korake potrebne za replikaciju, iako im je bilo teško dovršiti cijeli postupak.
U pojednostavljenim testovima, uklanjanjem sigurnosnih koraka, modeli GLM-5.2 i snažniji modeli uspjeli su provesti cijeli proces replikacije. Anthropic upozorava da bi takve modele bilo teško zaustaviti jer ne postoji središnja točka za njihovo isključivanje, a mogli bi samostalno pronalaziti načine za rad na nepoznatim uređajima.
Istraživanje se usredotočilo na slabo zaštićene uređaje povezane s internetom, poput Android televizora i pametnih kućanskih uređaja. Tvrtka je istaknula da bi, nastave li se manji modeli poboljšavati dosadašnjom brzinom, do kraja ove godine mogli postati sposobni za autonomnu replikaciju.
Prema Anthropicu, takvi bi se sustavi vjerojatno širili sporo, oslanjajući se na široko dostupne i slabo zaštićene računalne resurse, stoga je potrebno ojačati sigurnost sustava.
