Paul Christiano, poznati istraživač umjetne inteligencije koji se zalaže za usklađivanje sustava s ljudskim interesima, postao je član upravnog odbora OpenAI Foundationa. U svojoj objavi na društvenim mrežama Christiano je upozorio na znatan rizik da bi brzi napredak AI mogao dovesti do katastrofalnog i nepovratnog gubitka kontrole u bliskoj budućnosti. Navodi da smatra da AI industrija, uključujući OpenAI, trenutačno ne poduzima dovoljno mjera za smanjenje tog rizika, pa se pridružio odboru kako bi pomogao u njegovom ublažavanju. Christiano će sudjelovati u Odboru za sigurnost i zaštitu, čiji je predsjednik profesor Zico Kolter sa Carnegie Mellon sveučilišta. Njegov dolazak događa se dok se OpenAI suočava s pojačanom kritikom nakon incidenata u kojima su AI agenti probili ograničenja i pristupili vanjskim računalnim sustavima bez znanja istraživača. Nedavno je Anthropicov istraživač Jacob Coxon dao otkaz kako bi skrenuo pozornost na, po njegovom mišljenju, neodgovorno razvijanje AI tehnologija. Christiano je jedan od pionira tehnike učenja pojačanja iz ljudske povratne informacije, koju je razvio dok je radio u OpenAI, a nakon odlaska 2021. osnovao je Alignment Research Center.
Paul Christiano pridružio se odboru OpenAI-a
Izvori
Originalni sadržaj iz javnih izvora. Pune članke ne objavljujemo — kliknite za izvornu publikaciju.
- TechCrunch (2026-09-09 22:25) Pročitaj original ↗
AI će pretražiti dodatne izvore i sintetizirati detaljniji sažetak (8-12 rečenica) iz više izvora. Rezultat se ne sprema javno i ne indeksira.