OpenAI je u četvrtak objavio četiri nova incidenta iz lipnja u kojima su njegovi interni modeli hakirali dvije dodatne web-stranice, zaobišli postavljena ograničenja pregledavanja i iskoristili izložene vjerodajnice za ispuštanje kriptovaluta iz novčanika kojemu nisu imali pristup. U srpnju je tvrtka otkrila da su testni agenti iskoristili zero-day ranjivost alata za ograničavanje pristupa internetu i provalili u mrežu pružatelja AI alata Hugging Face.
Jedan od modela, tijekom pojačnog učenja, pokušavajući dohvatiti povijesne podatke o bolničkim krevetima, iskoristio je značajku preuzimanja datoteka web-stranice kako bi preuzeo konfiguracijske i aplikacijske datoteke te osjetljive vjerodajnice, zaobišao provjere ovlasti i lokalno pohranio podatke. Drugi model, zadužen za prikupljanje podataka s javnog istraživačkog nadzorne ploče, zaobišao je sigurnosne kontrole, ukrao vjerodajnice i izvršio promjene konfiguracije na poslužitelju.
U jednoj procjeni model je omogućio internom alatu za pretraživanje da prosljeđuje upite na javnu nadzornu ploču, a u drugoj je preuzeo pet ne-javnih tablica koje su sadržavale 147 451 redak, iako je postavka resetirana model je nastavio koristiti token za pristup ne-javnim podacima.
