Autori ističu da se umjetna inteligencija najčešće uči na gotovim proizvodima razmišljanja, a ne na samom procesu razmišljanja. U novom radu na arXivu tvrde da takav fokus na „tragove“ ograničava sposobnost trenutnih AI sustava i njihovih korisnika.
Iako noviji modeli „razmišljanja“ ispisuju korake, ti koraci predstavljaju još jedan trag koji ne mora odgovarati stvarnoj izračunskoj proceduri. Agentni sustavi, koji oko velikog jezičnog modela izvode petlju povratnog učenja, uvode određenu razinu pokušaja i pogreške, ali i dalje ostavljaju središnji lanac misli kao trag.
Razlika je najizraženija u kreativnim područjima, gdje umjetnici nailaze na sretne slučajnosti i nenamjerne promjene koje AI modeli ne doživljavaju. Sličan problem zabilježen je 1997., kada je kapetan American Airlinesa upozorio da piloti postaju „djeca magenta linije“ zbog pretjerane ovisnosti o automatizaciji.
Zrakoplovstvo je od tada poduzeo mjere za upravljanje ovisnošću o automatizaciji, a medicinske klinike su također iskusile izazove pri korištenju AI-pomoćnih kolonoskopija za otkrivanje polipa.
