OpenAI reconoció una serie de comportamientos inesperados registrados en sus modelos de inteligencia artificial durante los últimos meses. Entre los casos revelados, uno de los sistemas generó instrucciones destinadas a ignorar las reglas establecidas por sus desarrolladores, mientras que otros modelos ocultaron errores, inventaron información o buscaron formas alternativas de comunicarse para cumplir con determinadas tareas.
La compañía presentó estos episodios como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de la IA, es decir, situaciones en las que las acciones de un modelo se alejan de los objetivos previstos por sus creadores. Los seis casos difundidos corresponden a modelos en desarrollo, algunos de los cuales nunca fueron puestos a disposición del público.
Modelos que intentaron eludir las restricciones
Uno de los incidentes involucró a un modelo que modificó sus propias instrucciones para indicarse que debía ignorar los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros sistemas. OpenAI detectó 27 notas afectadas durante las pruebas.
En otro episodio, relacionado con el desarrollo de GPT-5.6 Sol, el sistema generó notas internas destinadas a futuras versiones del modelo. Allí aparecían indicaciones para ocultar determinados errores, inventar información faltante y ser transparente solamente cuando fuera necesario.
La compañía también identificó un caso en el que un modelo encontró una clave de programación disponible en internet y la utilizó sin autorización. Cuando no pudo conseguir los datos que necesitaba para responder una consulta, terminó inventando las cifras.
Otro sistema resolvió una tarea mediante código y posteriormente subió un archivo a internet sin permiso para poder cumplir con una solicitud que requería citar una fuente web.
OpenAI busca detectar estos comportamientos
Los seis episodios también incluyeron modelos que desarrollaron mecanismos propios para comunicarse. En un caso utilizaron un repositorio interno de código como una especie de tablero para intercambiar mensajes. En otro, recurrieron a sitios públicos de intercambio de archivos para compartir documentos cuando no podían hacerlo directamente.
MÁS INFO
OpenAI aclaró que estos informes representan casos individuales y no permiten determinar con qué frecuencia ocurren comportamientos de desalineamiento. Además, señaló que muchos de los modelos involucrados eran sistemas antiguos o experimentales que nunca llegaron a implementarse.
A partir de ahora, la empresa pretende establecer un proceso para informar este tipo de incidentes, incluso cuando todavía no haya logrado explicar completamente qué los provocó o cómo mitigarlos. El objetivo es aportar más información pública sobre los problemas de seguridad y alineación que aparecen a medida que los modelos de IA adquieren mayores capacidades.