L'estrella adolescent de Marvel Xochitl Gomez és l'última víctima del porno deepfake. Tanmateix, després de trobar les falsificacions sexuals explícites no consensuades que circulaven a X, abans Twitter, es va confondre quan la plataforma no va prendre mesures i eliminar-les.
Han sorgit molts problemes juntament amb l'auge de la intel·ligència artificial, però el porno deepfake és un dels més preocupants. Tot i que els deepfakes existeixen des de fa força temps, els avenços tecnològics els han fet més accessibles i convincents. Com a resultat, moltes persones, especialment dones, han trobat la seva semblança presa o recreada sense el seu consentiment i utilitzada en contingut pornogràfic. S'ha convertit en un problema enorme per a les celebritats femenines, però també per a les dones comunes que han experimentat que la seva semblança s'utilitza en contingut sexualment explícit per a pornografia de venjança, assetjament i bullying. També hi ha una gran preocupació que els deepfakes s'utilitzen per representar l'abús infantil.
Malauradament, actualment no hi ha lleis federals contra la pornografia falsa no consensuada i només uns pocs estats tenen legislació que en protegeixi els ciutadans. Moltes dones que s'han convertit en víctimes de la pornografia deepfake s'han trobat sense opcions per combatre-la a causa de la manca de regulació i la il·legalitat d'Internet. La majoria no tenen els recursos econòmics per emprendre accions legals. Fins i tot celebritats com Scarlett Johansson han declarat que és inútil intentar lluitar contra els deepfakes.
Un petit nivell de protecció que tenen les dones prové de les plataformes de xarxes socials que han prohibit la pornografia deepfake i generada per IA. Si aquests llocs fan complir aquestes prohibicions, dificultaria la circulació d'aquest contingut nociu. Tanmateix, l'experiència de Gómez demostra que les xarxes socials no fan complir les seves regles.
Xochitl Gomez parla de la seva experiència amb el porno deepfake
(Axelle/Bauer-Griffin/Getty)
Mentre apareixia al podcast de Taylor Lautner i la seva dona, El Pressió , Xochitl Gomez (també conegut com America Chavez) va obrir les seves experiències com a víctima de la pornografia falsa. La jove de 17 anys va revelar que va trobar el material sexualment explícit circulant a X, abans Twitter, però que està passant molt difícil per eliminar-lo. X va prohibir el porno generat per IA el 2018 i té polítiques contra imatges i vídeos falsos sexualment explícits, així com mitjans enganyosos i nuesa no consensuada. Tenint en compte que les imatges de Gomez infringeixen clarament les regles de X i que aquest contingut presentava un menor, hom hauria pensat que la plataforma prendria mesures immediatament.
Tanmateix, Gomez es va sorprendre quan va descobrir que el seu equip ja havia intentat prendre mesures contra el contingut sense èxit. Notícies de la NBC reportat que el 19 de gener de 2024 encara es podien trobar les fotos a X, que no responia a les peticions de comentaris. Gomez va explicar que el contingut la deixava estranya i volia desesperadament que se'l retirés, ja que no era un bon aspecte per a ella. Ella va preguntar: Per què és tan difícil d'eliminar? Aquest va ser tot el que vaig pensar, va ser: 'Per què està permès?'
En última instància, però, es va resignar a acceptar que el contingut simplement no es podia eliminar, revelant que només intenta no pensar-hi i guarda el telèfon per tractar el problema. Tot i així, les preguntes que va fer segueixen sent molt rellevants. Per què és tan difícil eliminar aquest contingut? És moralment reprovable i repugnant quan es fa pornografia falsa de qualsevol individu que no ho consent. És francament horrible quan es tracta d'un menor. Hi ha pornografia infantil real circulant a X, i la plataforma, estranyament, no fa res al respecte, tot i que aquest hauria de ser el problema més urgent per tractar.
Difícilment sembla una situació complexa si una persona informa de material sexualment explícit i notifica a la plataforma que no hi ha consentit. El material va en contra de diverses regles del lloc web. Què més hi ha per revisar o determinar? Ja és prou traumatitzant que un individu trobi aquest tipus de contingut a les xarxes socials; el mínim que podrien fer aquestes plataformes és complir les seves sol·licituds per eliminar-lo. Cap individu, especialment no menor d'edat, hauria d'acceptar que el contingut hi és perquè X i altres plataformes de xarxes socials es neguen de manera persistent i perplexa a protegir els seus usuaris.
(imatge destacada: Axelle/Bauer-Griffin/FilmMagic/Getty)
