Istraživanje provedeno na Harvard Kennedy School i MIT-u otkrilo je da AI savjeti mogu pojačati rodnu nejednakost na radnom mjestu. U istraživanju je analizirano 86.000 AI generiranih odgovora i utvrđeno je da muškarci češće dobivaju preporuke za više plaće i napredovanje u karijeri.
Žene, s druge strane, češće dobivaju preporuke za fleksibilnost i brigu o obitelji. Istraživanje sugerira da AI sustavi, koji se sve više koriste kao oblik karijernog savjetovanja, mogu imati stvarne posljedice na zapošljavanje i šire tržište rada.
Istraživanje navodi i da davanje preporuka na temelju spola ili osobnih svojstava, umjesto na temelju danih podataka, može biti oblik diskriminacije. Istraživači zaključuju da AI sustavi, koji se često smatraju alatima koji mogu demokratizirati pristup stručnim savjetima i potencijalno izjednačiti uvjete u pregovorima o zapošljavanju, u stvarnosti mogu imati složenije posljedice.
