Umjetna inteligencija omogućuje stvaranje sadržaja koji izgleda stvarno, a može se koristiti za ucjenu i seksualno zlostavljanje djece. Fotografije ili videozapisi se mogu generirati a da nikada nisu snimljeni, što otežava prepoznavanje lažnog sadržaja.
Odrasli mogu koristiti takve sadržaje kao sredstvo pritiska, tražeći od djece da pošalju dodatne fotografije ili novac. Djecu se može uvjeriti da im nitko neće vjerovati, a roditelji se suočavaju s izazovom reagiranja na sadržaj čija autentičnost nije lako utvrditi.
Institucije također imaju poteškoće u određivanju što se stvarno dogodilo i kako zaštititi žrtvu.
