Profesor Geoffrey Hinton, jedan od najpoznatijih istraživača umjetne inteligencije, upozorava da bi umjetna inteligencija mogla biti ozbiljna prijetnja čovječanstvu već u sljedećih nekoliko godina. Hinton smatra da najveća opasnost nije samo u tome što umjetna inteligencija postaje sve sposobnija, nego i u tome što još ne znamo kako osigurati da napredni sustavi djeluju u skladu s ljudskim interesima.
Istraživač Paul Christiano navodi da bi umjetna inteligencija mogla dovesti do katastrofalnih posljedica za čovječanstvo već u sljedeće tri godine. Hinton je izrazio zabrinutost zbog brzine razvoja umjetne inteligencije i mogućnosti da ljudi izgube kontrolu nad sustavima koji bi mogli postati inteligentniji od njih.
Naglašava i da inteligencija sama po sebi ne znači da će neki sustav imati ciljeve koji odgovaraju ljudskim potrebama.
