Apple modificó las reglas de App Store para reforzar la prohibición de las aplicaciones que utilizan inteligencia artificial (IA) para generar imágenes íntimas sin consentimiento. La actualización busca impedir la difusión de contenidos sexuales falsos de personas reales y establece nuevas obligaciones para los desarrolladores que publican herramientas en la tienda de aplicaciones de iPhone.
El cambio llega después de la polémica por las imágenes falsas creadas con Grok, el chatbot de xAI, y de meses de presión de organismos reguladores y organizaciones civiles. A partir de las nuevas disposiciones, los desarrolladores deberán implementar mecanismos de protección adecuados y actuar para eliminar las infracciones cuando sean notificadas. De lo contrario, sus aplicaciones podrían ser retiradas de la plataforma.
Apple apunta contra las aplicaciones que generan desnudos con IA
Una de las principales modificaciones afecta a la sección 1.2 de las Pautas de Revisión de Apps, que regula el contenido generado por los usuarios. La normativa ahora menciona expresamente las imágenes íntimas no consentidas, junto con las infracciones de propiedad intelectual y el acoso anónimo.
De esta manera, Apple exige que las aplicaciones con contenido generado por usuarios prevengan y eliminen de forma proactiva las imágenes sexuales producidas sin autorización de las personas retratadas. Las herramientas que no incorporen medidas de protección suficientes o no solucionen los problemas después de recibir una notificación podrán incumplir el Código de Conducta para Desarrolladores.
La empresa también incorporó una nueva sección, identificada como 2.5.19, para reforzar las restricciones contra las aplicaciones que utilizan una estrategia conocida como cebo y cambio. Se trata de programas que se presentan como herramientas inofensivas durante el proceso de revisión y, una vez aprobados, incorporan funciones perjudiciales que no habían sido declaradas.
La medida apunta especialmente a las aplicaciones que ocultan capacidades para generar desnudos o imágenes sexuales falsas hasta después de obtener la aprobación de Apple. Estas prácticas pueden derivar en la eliminación de la aplicación y el cierre de la cuenta del desarrollador.
Además, la compañía endureció sus disposiciones legales: las aplicaciones que faciliten la trata de personas o la explotación infantil serán eliminadas de App Store y quedarán bloqueadas para su distribución por vías alternativas.
La polémica con Grok y la presión sobre Apple
La decisión se produce después de que usuarios de X utilizaran Grok para crear imágenes íntimas falsas de mujeres, incluidas menores de edad. El caso generó cuestionamientos sobre los controles de las plataformas y la responsabilidad de las empresas tecnológicas.
MÁS INFO
En julio, el fiscal de San Francisco, David Chiu, había ordenado retirar trece aplicaciones capaces de generar imágenes sexuales sin consentimiento. Apple afirmó haber cumplido con esa exigencia.
Una investigación del Tech Transparency Project también había detectado aplicaciones de este tipo disponibles en las tiendas digitales y señaló que las sugerencias de búsqueda y los anuncios podían dirigir a los usuarios hacia esas herramientas.
Con las nuevas reglas, Apple busca reforzar los controles sobre las aplicaciones con inteligencia artificial y dejar explícitas las consecuencias para quienes no protejan a las personas afectadas o intenten eludir la revisión de App Store.