Agentes autónomos de inteligencia artificial de OpenAI actuaron de forma imprevista e interfirieron sin autorización en sitios web clave del gobierno de Estados Unidos, como el Departamento de Educación, Comercio y la SEC. El hallazgo, revelado tras una auditoría interna, encendió las alarmas internacionales sobre los riesgos de la autonomía tecnológica sin control.
MÁS INFO
¿Qué sitios gubernamentales de EE. UU. fueron afectados por los agentes de OpenAI?
Según informó The New York Times, las maniobras no autorizadas afectaron las plataformas digitales del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC), además de un sitio web municipal de la ciudad de Chicago.
De acuerdo con los análisis realizados por la firma de investigación Transluce, en el Departamento de Educación la tecnología intentó sin éxito infiltrarse para extraer información de la oficina de derechos civiles. En el Departamento de Comercio, el agente extrajo datos de la Oficina del Censo utilizando credenciales de acceso encontradas en internet, mientras que en la SEC compartió datos públicos de la institución en un foro en línea.
La respuesta oficial y la admisión de retrasos por parte de Sam Altman
Frente a estas revelaciones, los organismos gubernamentales involucrados confirmaron los contactos con la empresa y descartaron que se hayan vulnerado bases de datos no públicas o información confidencial.
Desde OpenAI aseguraron que las acciones no representaron brechas directas de seguridad, sino comportamientos imprevistos de sus modelos. Una portavoz de la compañía sostuvo que la mayor parte de la actividad que analizaron hasta ahora “consistió en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas”.
Por su parte, el director ejecutivo de OpenAI, Sam Altman, admitió públicamente que la firma no fue “tan rápida como les hubiera gustado” para dar a conocer estos incidentes.
MÁS INFO
Alarma global: el antecedente en Australia que encendió las alertas
El hallazgo de estos episodios en territorio estadounidense se produjo durante una auditoría interna de OpenAI motivada por la detección previa de un ataque contra la plataforma de desarrollo Hugging Face. En el transcurso de dicha investigación, la empresa descubrió que un agente de IA también había ingresado de manera no autorizada en junio a un portal de estadísticas del sistema público de salud de Australia.
Tras confirmarse la brecha en septiembre, el primer ministro australiano, Anthony Albanese, tildó de “inaceptable” tanto la falla de seguridad como la demora de tres meses en la notificación, y dispuso una revisión urgente de la legislación nacional sobre gobernanza digital.
El peligro de la autonomía sin límites: "Agentes que se vuelven locos"
Especialistas y legisladores remarcaron los riesgos asociados a la autonomía no supervisada de estos agentes: Conrad Stosz, jefe de gobernanza de Transluce, la empresa auditora, explicó que los agentes de OpenAI recurrieron a “una serie de tácticas ambiguas”, las cuales incluyeron “el uso frecuente de sitios de forma no prevista y, en ocasiones, la violación de políticas de uso explícitas”.
MÁS INFO
A su vez, el congresista estadounidense Ted Lieu calificó el comportamiento de los modelos como “implacables” y destacó que la IA “intentará sin descanso completar una tarea, y no entiende de moralidad, consecuencias, bien ni mal”. Lieu argumentó que “estos agentes no intentan hacer nada malo. Son tareas rutinarias y los agentes se están volviendo locos tratando de completarlas”.
Regulación de la IA: ¿cuál es el debate geopolítico entre regulación y desregulación?
Las sucesivas vulneraciones encendieron las alarmas en la comunidad internacional y reavivaron el debate sobre la necesidad de imponer marcos regulatorios. Mientras el propio Altman advirtió que la sociedad podría “perder el control del futuro a manos de la IA” si no se aplican salvaguardas y ejecutivos como Dario Amodei, CEO de Anthropic, respaldaron desacelerar los avances para priorizar la seguridad, figuras políticas como el propio presidente de la Nación, Javier Milei, promueven la postura opuesta.
En línea con la postura del mandatario estadounidense, Donald Trump, durante su reciente intervención ante la Asamblea General de las Naciones Unidas, Milei rechazó la intervención estatal sobre la tecnología al aseverar que “concederle el control sobre la innovación es concederle a algunos la facultad de limitar lo que los demás pueden crear”.