Una fotografia pública, una cara reconeixible i uns minuts davant de l'ordinador poden bastar per fabricar un vídeo íntim que mai no va existir. La persona representada no hi va participar, però pot acabar donant explicacions a la família, a la feina o a la parella. La falsificació és digital. El dany no.
La generació de vídeo amb intel·ligència artificial ha avançat fins a permetre moviments, expressions i escenes cada vegada més convincents. En l'àmbit adult, aquesta capacitat obre un espai legítim per a la ficció entre persones adultes. També abaixa el cost de crear material sexual no consentit.
La frontera útil no passa per distingir entre contingut explícit i contingut convencional. Passa per una pregunta molt més concreta: el vídeo representa una persona real que no ha acceptat aquest ús?
Una fantasia sintètica no necessita una víctima real
Un personatge generat des de zero pot tenir un rostre, una veu i una història que no pertanyen a ningú. Si és inequívocament adult, no imita una persona identificable i es manté dins de les normes del servei, la creació forma part de la ficció digital. La tecnologia substitueix actors, càmeres i platós per instruccions escrites.
El problema comença quan algú importa el rostre d'una exparella, una companya de feina, una creadora de contingut o qualsevol altra persona. No cal copiar el cos sencer. Una cara, un tatuatge, una habitació o un nom d'usuari poden fer que l'entorn identifiqui la víctima.
Tampoc no importa que la imatge original fos pública. Penjar una fotografia a una xarxa social no equival a autoritzar-ne una versió sexual. El consentiment per aparèixer en una foto concreta no es trasllada automàticament a una escena nova, ni es pot deduir d'una relació passada.
Amb menors, la línia és absoluta. Cap personatge infantil o que pugui semblar menor d'edat ha d'aparèixer en material sexual, encara que cada píxel s'hagi produït artificialment. Davant del dubte sobre l'edat aparent, no s'ha de generar ni compartir el resultat.
Crear i publicar són decisions diferents
Un generador de vídeos per a adults amb IA pot servir per construir escenes protagonitzades per personatges ficticis i adults. La possibilitat tècnica, però, no resol què convé fer amb l'arxiu acabat.
Un vídeo privat es pot descontextualitzar quan surt del dispositiu. Una còpia enviada a una sola persona pot arribar a un grup de missatgeria, perdre la indicació que és sintètica i tornar a circular mesos després amb un nom real afegit. Per això cal pensar en la publicació abans de prémer el botó de generar, no quan el fitxer ja s'ha escampat.
La Comissió Europea explica que les obligacions de transparència de l'article 50 de la Llei d'IA exigeixen marcar els continguts sintètics en formats detectables i identificar clarament els hipertrucatges quan correspongui. En obres evidentment creatives o fictícies, la informació es pot presentar de manera que no impedeixi gaudir del contingut.
La norma ajuda, però una etiqueta no converteix en acceptable l'ús no consentit d'una cara real. «Fet amb IA» informa sobre l'origen tècnic. No acredita l'autorització de la persona representada.
El realisme no és una prova d'autenticitat
Durant anys, molta gent ha buscat errors visibles per detectar un vídeo fals: mans deformades, llavis descoordinats, parpelleigs estranys o llum incoherent. Aquestes pistes continuen sent útils, però caduquen ràpidament. Els models milloren i les plataformes comprimeixen les imatges fins a amagar tant els defectes de la IA com els detalls d'un vídeo real.
El Gerió Digital ja va explicar com un grup de la Universitat de Girona havia analitzat eines per detectar notícies falses i vídeos hipertrucats. L'estudi mostra el valor de combinar l'anàlisi tècnica amb el contrast de dades i fonts. Cap detector, tanmateix, hauria de convertir-se en un segell infal·lible.
Quan apareix un vídeo íntim dubtós, el context pesa. Cal comprovar qui el va publicar, quan va aparèixer, si existeix una font original i si la persona afectada n'ha negat l'autenticitat. Reenviar l'arxiu perquè altres usuaris «diguin què en pensen» multiplica la difusió i pot causar un segon dany.
La resposta prudent consisteix a no compartir-lo, conservar l'enllaç i les dades de publicació si cal denunciar-lo, i avisar la persona afectada en privat. No necessita rebre deu còpies del mateix vídeo per saber que circula.
La privacitat comença abans de la primera instrucció
Les eines de generació processen més informació que el text escrit a la caixa d'instruccions. Segons el servei, poden intervenir imatges de referència, dades del compte, historial, adreça IP o arxius guardats. Abans d'utilitzar-les convé llegir la política de privacitat i les condicions d'ús amb preguntes concretes.
S'emmagatzemen els vídeos i les fotografies d'origen? Durant quant de temps? Es fan servir per millorar sistemes? Es pot esborrar una creació sense eliminar tot el compte? Què passa amb les còpies de seguretat? Una interfície atractiva no respon aquestes qüestions.
També cal reduir les dades introduïdes. Un personatge fictici no necessita el nom d'una persona real, el seu municipi, el lloc de treball ni fotografies extretes d'un perfil social. Com menys elements apuntin cap a algú existent, menor serà el risc de confusió o d'identificació accidental.
Els arxius acabats mereixen la mateixa cautela. Un dispositiu compartit, una còpia automàtica al núvol o una previsualització visible a la galeria poden exposar material que l'usuari pensava mantenir en privat. Una contrasenya sòlida i el control de les còpies sincronitzades resulten més útils que confiar en el nom discret d'una carpeta.
Si el vídeo utilitza la teva cara
La primera reacció acostuma a ser exigir que desaparegui. Abans, si és segur fer-ho, convé guardar proves: l'adreça de la publicació, el perfil que l'ha difós, la data, el text que l'acompanya i una captura de pantalla. No cal descarregar ni redistribuir el vídeo per documentar l'incident.
Després es pot demanar la retirada a la plataforma i denunciar el compte. Si hi ha amenaces, extorsió, assetjament o risc immediat, cal buscar suport policial i jurídic. La víctima no ha de negociar sola amb qui utilitza l'arxiu per pressionar-la.
L'entorn també té una responsabilitat. Preguntar per què aquella persona tenia fotos públiques desplaça la culpa cap a qui ha estat atacat. La pregunta pertinent és qui va crear o difondre la falsificació i amb quina finalitat.
La generació de vídeo adult no desapareixerà, ni tota creació íntima sintètica implica un abús. La ficció adulta pot existir sense apropiar-se del cos o de la identitat de ningú. Aquesta és la prova més simple abans de crear una escena: si el vídeo pot arruïnar el matí d'una persona real que mai no hi va consentir, ja no és una fantasia privada.
