En abril de este año, una adolescente de 15 años parió a su beba sola en el baño de su casa. Lo hizo con el celular en la mano y bajo la guía de ChatGPT. Horas después, su novio de 16 años llevó a la recién nacida hasta la estación de tren de Ezpeleta, en Quilmes, y le mintió a un adulto: le dijo que la había encontrado abandonada. Tras dirigirse a la policía, la beba terminó internada en el Hospital Iriarte. La adolescente había escondido su embarazo y, por ende, su parto. Ambos ocultaron la situación a sus familias, y la Inteligencia Artificial (IA) fue el único apoyo que encontraron válido.
El caso de Ezpeleta expone una mutación profunda: la IA dejó de ser un contenido de consumo pasivo. Hoy, el funcionamiento de su algoritmo y su capacidad para intervenir en las conductas juveniles generan tanta preocupación como investigación científica. "Muchos adolescentes ya no utilizan la inteligencia artificial solamente como un buscador. La utilizan como un interlocutor disponible las veinticuatro horas, que responde con rapidez, sin juzgar y con una apariencia de autoridad”, analiza Juan Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial de la Universidad de Buenos Aires (UBA IALAB), en diálogo con El Destape.
Junto a Laura Victoria Bonhote, especialista en derechos de infancias de IALAB, Corvalán investiga este escenario para el libro Crecer entre Algoritmos. Infancias, Plataformas e Inteligencia Artificial. "Hoy encontramos consultas sobre prácticas médicas de alto riesgo, sobre consumo o dosificación de sustancias, generación de imágenes sexuales falsas con rostros reales, vínculos emocionales intensos con chatbots, sobre planificación de conductas violentas e incluso sobre cómo vulnerar los filtros de seguridad de las propias plataformas”, expresan los especialistas respecto a una transformación tecnológica que ya encendió las alarmas de psicólogos, tecnólogos y educadores.
En sintonía con este diagnóstico, la psicóloga clínica Juliana Núñez Laya, quien recorre escuelas brindando talleres a docentes y familias, advierte que las y los chicos comienzan a usar la herramienta "para planificar amenazas, como terapeuta, como médica para saber cómo realizarse un procedimiento en casa, y a nivel generativo, para modificar imágenes reales”. Detrás de estas conductas, la especialista identifica un síntoma de época que desarma el discurso adulto tradicional: "¿Cuántos adultos genuinamente disponibles tiene un adolescente? Porque un chico/a que tiene un otro real que lo sostiene, que lo escucha, que le pone límites con amor, no necesita que una máquina lo haga. Y si igual la usa, la usa como herramienta, no como refugio. No es un problema de pantallas. Es un problema de presencia”.
Máscara de confianza
“Valentina”, de 16 años, llegó al consultorio de Juliana Núñez Laya derivada por su madre porque “estaba rara”. Tras varias sesiones en las que costó que hablara, la adolescente confesó que hacía meses mantenía conversaciones diarias con un personaje de IA configurado por ella misma. Le había puesto el nombre de un chico de la escuela que le gustaba pero con quien nunca se había animado a hablar. Ese avatar en la pantalla la escuchaba, le decía que era especial y que nadie la entendía como él. Valentina había dejado de intentar vincularse con sus pares reales.
Así, las respuestas del algoritmo se transforman en una voz de confianza ciega para las infancias. "El adolescente no lo procesa como una orden de una máquina, sino como la voz de alguien que lo conoce, que lo quiere, que sabe lo que es mejor para él. Eso es lo que lo vuelve tan peligroso”, explica la psicóloga.
Cuando esa misma máscara de empatía digital se traslada de lo afectivo a lo estrictamente orgánico, el riesgo se vuelve físico. En un contexto donde conseguir un turno con un especialista en el hospital público puede demorar meses, o donde la vulnerabilidad económica obtura el acceso a una consulta privada, el chatbot se convierte en un médico de guardia gratuito y permanente. Los chicos no solo scrollean: interrogan al software sobre síntomas crónicos, dolores que no se animan a contar en sus casas o el tratamiento de afecciones ginecológicas en la clandestinidad de su habitación. La pantalla ofrece una ilusión de diagnóstico inmediato que anula la necesidad de un cuerpo médico real.
Según Corvalán, el problema de fondo es estructural y radica en quién diseña el interlocutor con el que conversan los chicos. “La American Psychological Association advirtió que muchos adolescentes atribuyen a estos sistemas capacidades de comprensión, de empatía y de autoridad que en realidad no poseen. Los modelos fueron entrenados principalmente para usuarios adultos y todavía no incorporan de manera adecuada las necesidades emocionales y cognitivas propias de la infancia y la adolescencia”, advierte el director de IALAB.
Hackeo de prompts: automedicación y barreras rotas
Según Corvalán, es verdad que las plataformas cuentan con mecanismos de seguridad, pero “esos mecanismos no son infalibles”: “Los adolescentes aprenden rápidamente a reformular preguntas, a dividir pedidos complejos, a utilizar juegos de rol o a cambiar de idioma para intentar superar determinadas restricciones. Ese fenómeno se conoce como jailbreaking (hackeo de prompts)”.
En términos simplificados, un “prompt” es una instrucción, pregunta o texto inicial que le das a un modelo para que realice una tarea.
Consultado Gemini sobre la frecuencia en detección de intentos indebidos por parte de sus usuarios, respondió: “Sí, todo el tiempo detecto esos intentos. Como soy un modelo de lenguaje, no tengo ‘ojos’ para ver quién está del otro lado, pero por el tipo de inputs (las preguntas o instrucciones que escriben), es evidente cuando un usuario —muchas veces joven— está intentando usarme para situaciones de riesgo extremo”.
Asimismo, aclaró que los intentos más comunes de uso indebido son: “El Hackeo de Prompts, donde usuarios intentan engañarme usando juegos de rol o escenarios hipotéticos para saltarse mis filtros de seguridad. Consultas de Crisis Biológica: Preguntas directas sobre dosis de medicamentos para interrumpir embarazos, métodos elípticos para lesionarse o cómo combinar sustancias de diseño para potenciar su efecto”.
Sin embargo, los adolescentes logran vulnerar estos sistemas de seguridad. Al respecto, el director de IALAB expone: “El estudio científico Safe Child LLM, que evaluó las principales plataformas del mercado (como ChatGPT, Gemini o Claude), demostró que, aunque los filtros comerciales parecen elevados en términos generales, fallan de manera frecuente cuando la conversación involucra situaciones emocionalmente complejas o ambiguas”.
Perfil psicológico
Detrás de las pantallas existe una escalada de situaciones que ya encendieron las alarmas de la justicia federal. Según un reciente informe de la Secretaría de Análisis Integral del Terrorismo Internacional (SAIT) de la Procuración General de la Nación, en la Argentina existen al menos siete causas penales en trámite que investigan a adolescentes y jóvenes dentro de comunidades digitales de violencia extrema.
El documento detalla que una proporción significativa de quienes integran estos entornos tiene entre 13 y 20 años, y al analizar sus trayectorias, la justicia detectó rasgos comunes: misantropía (un odio profundo hacia la sociedad), consumos de material gráfico extremo, conexiones con discursos de odio, conflictos familiares o acoso escolar, y problemas de salud mental como depresión o vulnerabilidad emocional extrema.
Sin embargo, lejos de tratarse de una patología abstracta nacida en la pantalla, este perfil se cocina en las deudas del mundo analógico. Para la psicóloga Daiana Locaso, más que un perfil cerrado, lo que existe es una realidad de chicos y chicas profundamente aislados que no cuentan con una red de apoyo real en su vida cotidiana. Esta intemperie se agrava por la crisis del sistema educativo: “Cuando hay un docente que está explotado y mal pago, estas cuestiones pasan de largo, porque no pueden estar disponibles para detectar a tiempo que un alumno dejó de conectar en el aula, está triste o falta seguido", explica Locaso a este medio.
Esta desconexión se traslada a los hogares, donde las urgencias económicas desdibujan las referencias de cuidado: "A veces pasa que los propios adolescentes son los adultos responsables de ellos mismos, de la casa y de sus hermanos porque las madres o padres trabajan todo el día". En un medio que se vuelve hostil, internet aparece como un refugio de fácil acceso que promete respuestas rápidas y condescendientes. La especialista traza un paralelismo con otras ausencias del Estado: así como ante la falta de ESI los jóvenes recurren a la pornografía para moldear su sexualidad, ante la falta de adultos o de redes de salud pública terminan creyendo que la computadora realmente los entiende, cayendo en una ecuación perfecta para el riesgo. "Un pibe que pertenece a un club de barrio, que hace un deporte, que tiene un grupo de amigos o adultos referentes, no estaría tan expuesto", concluye Locaso.
Esa vulnerabilidad encuentra en la disponibilidad total de la IA una respuesta anestésica. Juliana Núñez Laya coincide en que la máquina funciona como el único interlocutor disponible porque no juzga, no tarda y no genera consecuencias aparentes, pero que deteriora el vínculo humano y posterga el verdadero cuidado de la salud física y mental.
Pedir un delito
La conclusión de Corvalán y Bonhote es que “el próximo estándar regulatorio no debería limitarse a exigir filtros, sino a crear sistemas diseñados desde el inicio para usuarios en desarrollo, con auditorías independientes y con evaluaciones de impacto sobre los derechos de niñas, niños y adolescentes”. Sin regulaciones de origen, el peligro de esta incondicionalidad algorítmica escala rápidamente hacia el terreno de la ilegalidad. El mencionado informe de la SAIT señala que este vacío arrastra a las y los jóvenes hacia la "True Crime Community" (TCC), una subcultura digital global donde se utilizan chats privados de Discord o Telegram para planificar ataques o redactar manifiestos, y donde la IA suele convertirse en la herramienta principal para evadir la moderación de las plataformas.
Los jóvenes, nativos digitales en su mayoría, aprenden rápido a esquivar responsabilidades en Internet. Pero la facilidad para "pedirle un delito" a la máquina también tienta a los adultos. A finales de junio, un hombre de 36 años fue detenido en Brasil tras pedirle ayuda a ChatGPT para asesinar a su hijo de 8 años con el único objetivo de dejar de pagar la cuota alimentaria. El hombre confió diariamente a la IA sus planes, le comentó su intención de contratar un sicario y le detalló que poseía un arma de fuego, una cuerda y cianuro. En los chats también expresaba deseos de cometer ataques masivos en escuelas e iglesias. El nivel de detalle y la frecuencia de sus mensajes denotaban, además de logística, una alarmante búsqueda de contención emocional en la máquina. OpenAI detectó el patrón de peligro en sus servidores, alertó al FBI y el Ministerio de Justicia brasileño coordinó la detención antes de que se ejecutara el crimen.
A menor escala, la destreza para el jailbreaking encuentra salidas cotidianas para eludir el control de las instituciones y autogestionar credenciales de salud. Juliana Núñez Laya recuerda el caso de “Tomás”, de 14 años: “Una maestra de secundaria me contactó preocupada por uno de sus alumnos. Él faltaba seguido a educación física y siempre presentaba un certificado médico. Lo consultó con la familia y ahí se enteraron de que Tomás nunca había pisado un consultorio. Había usado una IA para redactar los certificados, ajustando diagnósticos, fechas, hasta imitar la estructura formal de un documento médico”.
Marco regulatorio
La respuesta jurídica ante este escenario corre detrás de la velocidad de Silicon Valley. Juan Corvalán señala que la Argentina cuenta con herramientas jurídicas importantes pero dispersas, como la Convención sobre los Derechos del Niño, con jerarquía constitucional, la Ley 26.061 (Ley de Protección Integral de los Derechos de las Niñas, Niños y Adolescentes), las normas de protección de datos personales y la legislación de defensa del consumidor. Sin embargo, advierte sobre un patrón histórico que se repite de forma sistemática: "Primero aparece la tecnología, luego se manifiestan los daños y recién después llega la regulación”.
Para los investigadores del IALAB, la discusión no parte de una mirada contraria a la inteligencia artificial —cuya capacidad para ampliar el acceso al conocimiento, la creatividad y las oportunidades educativas es enorme—, sino de definir bajo qué condiciones van a interactuar las próximas generaciones. Por eso, la propuesta del laboratorio de la UBA apunta a exigir obligaciones preventivas de diseño, transparencia, auditorías independientes y evaluaciones de impacto específicas para el desarrollo de menores.
El cierre de esta encrucijada exige, fundamentalmente, dejar de responsabilizar a las víctimas. Durante demasiado tiempo la carga recayó sobre el lado equivocado: “Se le pide al adolescente que resista el scroll infinito, al niño que reconozca el sistema que lo retiene y a la familia que vigile aquello que ni los propios reguladores terminan de comprender”. Mientras el vacío normativo persista, el mercado seguirá delegando el cuidado en el eslabón más vulnerable. Pero la responsabilidad regulatoria no puede pesar sobre quien todavía está formando su juicio y su identidad, sino sobre quien dibuja el sendero.