Frente a las denuncias por imágenes íntimas falsas creadas con Inteligencia Artificial en colegios, la fundación Red por la Infancia lanzó la herramienta gratuita y anónima BajaloYa!. El sistema asigna un código hash para borrar el contenido digital sin compartir la imagen, mientras que la Justicia recibe denuncias mediante la fiscalía especializada UFEDyCI.
En los últimos días se conoció que padres y alumnos denunciaron que un grupo de estudiantes de un colegio privado de Lomas de Zamora habría creado y vendido imágenes sexuales falsas de sus compañeras, que realizaron con Inteligencia Artificial (IA). Frente a esta situación, la fundación Red por la Infancia ofreció una herramienta para combatir de manera independiente estos casos.
BajaloYa! también cuenta con un soporte para denunciar. Esta herramienta es la adaptación argentina de Take it Down, un servicio desarrollado por el National Center for Missing & Exploited Children (NCMEC) de Estados Unidos. Funciona en el marco de un acuerdo de colaboración entre ambas organizaciones, una iniciativa que apunta a que los menores puedan actuar sin depender de adultos para comenzar el proceso.
¿Cómo funciona BajaloYa!?
El funcionamiento consiste en asignar una huella digital única, técnicamente conocida como valor hash, a cada imagen o video inapropiado que involucre a personas menores de 18 años. Las plataformas en línea pueden usar esos valores para detectar el contenido en sus servidores y proceder a la eliminación.
Este sistema se distingue de otros, ya que el proceso ocurre sin que la imagen o el video salgan del dispositivo del usuario y sin que nadie llegue a verlos. El caso del Colegio Modelo de Lomas de Zamora evidenció uno de los mayores peligros tecnológicos a los que están expuestos los menores de edad.
¿Cómo denunciar imágenes creadas con IA sin autorización?
Además de pedir la baja del contenido, se puede avanzar con una denuncia formal en el Ministerio Público Fiscal (MPF) de la localidad que corresponda. La Ciudad de Buenos Aires cuenta con una Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI), que se ocupa de investigar delitos cometidos mediante medios digitales.
La unidad también en coordinación con fiscales de todas las jurisdicciones del país. También se encuentra a disposición la línea 0800-333-47225 para realizar la denuncia o el correo denuncias@fiscalias.gob.ar. Los pasos para iniciar el proceso son:
- Ingresar a la web y dirigirse a la sección "Delitos informáticos".
- Seleccionar si desea identificarse o actuar de forma anónima. Si se brindan los datos personales, se podrá recibir una copia de la denuncia, estar al tanto del avance del caso y mantener contacto con el fiscal para dar información adicional.
- Cargar los datos del denunciado (si se los conoce) y describir el hecho con el mayor detalle posible. Se pueden adjuntar hasta tres archivos que acrediten la situación, pero no deben subirse imágenes íntimas, sino aquellos documentos que permitan identificar a quien amenaza o distribuye el contenido.
MÁS INFO
Desde Red por la Infancia insisten en la preservación de la prueba digital antes de realizar cualquier denuncia, ya que la evidencia en entornos digitales puede desaparecer con rapidez: las cuentas pueden cerrarse, los mensajes borrarse y las publicaciones eliminarse. Las plataformas también suelen conservar ciertos registros de acceso por un período limitado.
Por lo tanto, la organización advierte que no se deben borrar los mensajes, las fotos, los audios, los correos electrónicos, perfiles, chats ni registros de llamadas. Además, recomendaron no "limpiar" el dispositivo, reinstalar aplicaciones ni cambiarlo hasta completar la denuncia. En caso de tener que editar los archivos originales para resaltar algún aspecto, se recomienda hacerlo sobre una copia.
Si la denuncia no puede realizarse de inmediato, la plataforma ofrece pautas para que el usuario pueda preservar el material: hacer capturas de pantalla completas, sin recortar, que contengan nombre de usuario o perfil, la foto de perfil, la fecha y hora, el contenido del mensaje o publicación, el nombre de la plataforma o nombre de grupo o canal. En caso de que la conversación sea extensa, se deberán tomar capturas en secuencia, sin saltos.
La fundación también recomendó guardar en un archivo la URL del perfil y de la publicación, el nombre de usuario, el ID de la cuenta cuando la aplicación lo muestre y cualquier otro dato de contacto visible como teléfono o correo electrónico. Esto es clave porque los perfiles pueden cambiar de nombre, cerrarse o desaparecer antes de que las autoridades puedan acceder a ellos.