El chatbot Grok de Elon Musk está poniendo a prueba la capacidad de Europa para tomar medidas drásticas contra los deepfakes y la desnudez digital de imágenes en línea, incluso después de que los reguladores obtuvieran una rara victoria al obligar a xAI de Musk a frenar la creación de imágenes sexualizadas.
xAI comunicó a última hora del miércoles que había restringido la edición de imágenes para los usuarios de Grok AI después de que el chatbot produjera miles de imágenes sexualizadas de mujeres y menores que alarmaron a los reguladores mundiales.
La marcha atrás de Musk, que en un principio se rió de la tendencia, pone de relieve la dificultad de vigilar las herramientas de IA que hacen que sea barato y fácil crear contenido explícito. Es el último enfrentamiento entre Europa y Musk tras las disputas por la injerencia electoral, la moderación de contenidos y la libertad de expresión.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
Muchos reguladores siguen esforzándose por elaborar leyes y normas que regulen la IA, con interrogantes sobre qué constituye desnudez, cómo definir el consentimiento y quién es responsable: el usuario o la plataforma.
"Se trata de una zona gris en lo que respecta a la creación de imágenes de desnudos", declaró a Reuters Ängla Pändel, abogado especializado en protección de datos y privacidad de Mannheimer Swartling, con sede en Estocolmo.
El regulador británico Ofcom, uno de los que más se ha pronunciado sobre el tema, acogió con satisfacción el movimiento de Musk, pero dijo que su investigación sobre xAI por las imágenes Grok continuaría.
"Nuestra investigación formal sigue en curso", dijo un portavoz. "Estamos trabajando sin descanso para avanzar en este asunto y obtener respuestas sobre lo que salió mal y lo que se está haciendo para solucionarlo".
A principios de este mes, Grok creó imágenes hiperrealistas de mujeres en X manipuladas para que parecieran estar en diminutos bikinis, en poses degradantes o incluso cubiertas de moratones. Algunas menores fueron desnudadas digitalmente hasta quedar en bañador.
Hasta el miércoles, Reuters descubrió que el chatbot seguía produciendo imágenes sexualizadas en privado bajo demanda. Eso parecía haber sido frenado al menos en ciertas geografías el jueves.
La xAI de Musk dijo que estaba bloqueando a los usuarios para que no generasen imágenes de personas con poca ropa en "jurisdicciones en las que es ilegal". No identificó esas jurisdicciones.
En Malasia e Indonesia, el gobierno ha impuesto prohibiciones temporales a Grok, mientras que los reguladores de la UE y el Reino Unido calificaron las imágenes de ilegales. El Reino Unido, Francia e Italia iniciaron investigaciones, pero se enfrentaron a peticiones de medidas más estrictas.
La eurodiputada demócrata-cristiana Nina Carberry, que calificó la última medida de "paso positivo", afirmó que "es necesaria una aplicación más estricta de la Ley de Servicios Digitales para poner fin a las aplicaciones y plataformas que sexualizan o desnudan a mujeres y niños".
Un portavoz de la Comisión Europea dijo que si los cambios de Grok no eran efectivos, la Comisión seguiría utilizando todas las herramientas de aplicación de la DSA de la UE contra la plataforma.
ZONA GRIS LEGAL
Según Alexander Brown, abogado británico especializado en protección de datos de Simmons & Simmons, la Ley de Seguridad en Línea del Reino Unido tipifica como "delito prioritario" compartir imágenes íntimas sin consentimiento, incluidas las falsificaciones generadas por IA.
"Esto significa que X debe tomar medidas proactivas y proporcionadas para evitar que dicho contenido aparezca en su plataforma y para eliminarlo rápidamente cuando se detecte", dijo.
El regulador británico puede multar a una empresa con hasta el 10% de sus ingresos en los casos más graves de incumplimiento o pedir a un tribunal que obligue a los proveedores de servicios de Internet a bloquear el sitio.
Para los particulares, llevar a los tribunales a las plataformas es "un proceso realmente difícil y pesado", dijo Anders Bergsten, abogado de Mannheimer Swartling, citando el costo emocional para las víctimas.
Los deepfakes existen desde hace años, mucho antes de la llegada de las aplicaciones de IA, aunque se limitaban en gran medida a los rincones más oscuros de la web. La capacidad de publicación de X da a Grok un alcance sin precedentes.
"La capacidad de publicación sin fricciones permite que los deepfakes se extiendan a gran escala", afirma la abogada estadounidense Carrie Goldberg, que trabaja con víctimas de ciberacoso.
Las leyes británica y sueca ilegalizan el intercambio no consentido de imágenes de desnudos. Gran Bretaña está ampliando la ley para incluir la creación de tales imágenes.
Según la DSA, la suspensión de un servicio se considera el último recurso. Según los expertos, la Ley de AI de la UE tampoco contempla las imágenes de adultos desnudos, sino únicamente las obligaciones de transparencia para los deepfakes.
El primer pinistro británico, Keir Starmer, celebró el jueves la medida de X, pero advirtió: "La libertad de expresión no es la libertad de violar el consentimiento. Las imágenes de mujeres jóvenes no son propiedad pública, y su seguridad no está a debate".
"Si necesitamos reforzar aún más las leyes existentes, estamos preparados para hacerlo".
(Reportaje de Supantha Mukherjee en Estocolmo y Sam Tobin en Londres; Editado en español por Natalia Ramos)
Cerrar sesión