Sve veći broj stručnjaka za umjetnu inteligenciju upozorava da bi napredna AI mogla doslovno izbrisati čovječanstvo s lica zemlje. Jacob Coxon, bivši zaposlenik OpenAI-ja koji je nedavno napustio tvrtku Anthropic, na društvenoj mreži X upozorio je da OpenAI razvija tehnologije koje bi do kraja desetljeća mogle pobiti sve nas. Njegove tvrdnje podržali su bivši kolege iz iste tvrtke, Evan Hubinger i Samuel Marks, koji su se također izjasnili na X-u. Prema izvještaju Sama Schechnera iz The Wall Street Journala, AI bi mogla izbrisati čovječanstvo čak i ako se bavi naizgled bezopasnim ciljem, poput proizvodnje spajalica za papir, po konceptu „maksimizatora spajalica“ švedskog filozofa Nicka Bostroma. Istraživači razdvajaju rizike u dva glavna scenarija: gubitak kontrole nad superinteligentnim AI agentima koji bi sami sebi unaprijedili i uništili ljude, te zlouporabu AI od strane zlonamjernih osoba za stvaranje virusa koji bi pobili sve. Dodatno, istaknuti su i potencijalni katastrofalni scenariji poput masovnih kibernetičkih napada koji bi onesposobili elektroenergetske mreže i financijske sustave, dovodeći do raspada društvenog poretka.