Aplicaciones fotográficas que desnudan digitalmente a las mujeres, la posibilidad de crear desde una simple frase fotos de “chicas de inteligencia artificial (IA)” e imágenes manipuladas que alimentan la “extorsión sexual”: el auge de la pornografía falsa está superando esfuerzos de Estados Unidos y Europa para regular la tecnología.
Las falsificaciones de fotos y videos cada vez más realistas basadas en IA —llamadas “deepfakes”— generalmente se asocian a personalidades conocidas, como el papa Francisco con un abrigo acolchado o Donald Trump bajo arresto. Sin embargo, los expertos afirman que su uso se está extendiendo para generar pornografía no consensuada que puede destruir vidas comunes y corrientes.
Las mujeres son un objetivo particular de las herramientas y aplicaciones de inteligencia artificial, ampliamente disponibles de forma gratuita y sin necesidad de conocimientos técnicos, que permiten a los usuarios retirar digitalmente la ropa de sus fotos o insertar sus rostros en videos sexualmente explícitos.
“El aumento de la pornografía generada por IA y de la ‘deepfake porn’ normaliza el uso de la imagen de una mujer sin su consentimiento. ¿Qué mensaje enviamos como sociedad sobre el consentimiento cuando se puede desnudar virtualmente a cualquier mujer?”, explica a la AFP Sophie Maddocks, investigadora de la Universidad de Pensilvania que estudia los abusos sexuales basados en imágenes.
En un dramático video, una creadora de contenido estadounidense de Twitch, conocida como QTCinderella, lamentó la “constante explotación y cosificación” de las mujeres cuando se convirtió en víctima del “porno deepfake”. Ella recibió acoso, agregó, por personas que le enviaban copias de las manipulaciones en las que aparecía.
LA DESINFORMACIÓN HABILITADA POR LA IA PUEDE PROVOCAR ACOSO
El escándalo estalló en enero durante una transmisión en vivo del también streamer —creador de contenido en formato de directos— Brandon Ewing, a quien se sorprendió mirando un sitio web que contenía imágenes sexuales falsas de varias mujeres, entre ellas QTCinderella.
“No es tan simple como ‘solo’ ser violada. Es mucho más que eso”, escribió la creadora de contenido en Twitter, ahora llamado X, añadiendo que la experiencia la había “arruinado”.
La proliferación de “deepfakes” subraya la amenaza de la desinformación habilitada por la IA, que puede dañar la reputación y provocar intimidación o acoso. Si bien celebridades como la cantante Taylor Swift y la actriz Emma Watson han sido víctimas de la pornografía falsa, las mujeres que no están en el ojo público también son el objetivo de estos ataques.
Los medios de comunicación estadounidenses y europeos están llenos de testimonios de primera mano de mujeres, desde académicas hasta activistas, que se sorprendieron al descubrir sus rostros en videos pornográficos falsos.
Alrededor del 96 por ciento de los videos “deepfake” en línea son pornografía no consensuada. Y en la mayoría de ellos aparecen mujeres, según un estudio de 2019 realizado por la empresa holandesa de IA Sensity.
“El acto de la fantasía sexual, que antes era privado y que tiene lugar dentro de la mente de alguien, se transfiere ahora a la tecnología y a los creadores de contenidos en el mundo real”, dijo a la AFP Roberta Duffield, directora de inteligencia de Blackbird.AI.
Hay aplicaciones gratuitas que pueden crear “chicas hiperreales de IA”, avatares a partir de fotos reales, personalizándolas con indicaciones como “piel oscura” u otras con connotaciones sexuales.
CUATRO ESTADOS DE EUA PROHIBIERON LA DISTRIBUCIÓN DE PORNOGRAFÍA FALSA
Los avances tecnológicos han dado lugar a lo que Duffield denomina una “industria artesanal en expansión” en torno al porno potenciado con IA, en la que muchos creadores de “deepfakes” aceptan solicitudes pagas para generar contenidos con una persona que el cliente elige.
El mes pasado, el FBI emitió una advertencia sobre los “esquemas de sextorsión”, en los que los estafadores capturan fotos y videos de las redes sociales para crear material falso de “temática sexual” que luego se utilizan para chantajear al usuario afectado. El FBI añadió que entre las víctimas había menores de edad y adultos que no dieron su consentimiento. La proliferación de herramientas de inteligencia artificial ha superado la regulación.
“Esto no es un rincón oscuro de Internet, donde se crean y comparten estas imágenes. Está justo delante de nuestras narices. Y sí, la ley debe ponerse al día”, dijo a la AFP Dan Purcell, director ejecutivo y fundador de la empresa de protección de marcas de inteligencia artificial Ceartas.
En Estados Unidos, cuatro estados, incluidos California y Virginia, prohibieron la distribución de pornografía falsa generada por IA, pero las víctimas suelen tener pocos recursos legales si los perpetradores viven fuera de estas jurisdicciones.
En mayo, un legislador estadounidense presentó la Ley de prevención de falsificaciones profundas de imágenes íntimas, que haría ilegal compartir pornografía falsificada sin consentimiento. Espacios en línea populares, como Reddit, también han tratado de regular sus florecientes comunidades de pornografía con IA.
“Internet es una jurisdicción sin fronteras, y debe haber una ley internacional unificada para proteger a las personas contra esta forma de explotación, como resulta la pornografía falsa generada por IA”, dijo Purcell. N
