David Robinson, quien estaba a cargo de redactar los informes de seguridad de OpenAI para los principales lanzamientos de la compañía, renunció a su puesto y cuestionó duramente la cultura interna de la empresa. En un ensayo publicado en la revista estadounidense The Atlantic, sostuvo que el rumbo actual de la industria de la inteligencia artificial es “inaceptable” y advirtió que las compañías no están tomando las precauciones necesarias frente al avance de sistemas cada vez más capaces.
Robinson trabajó en el equipo de Safety Systems de OpenAI entre octubre de 2024 y octubre de 2026. Durante ese período participó del área Trustworthy AI, dedicada al trabajo de transparencia y a la elaboración de documentación relacionada con la seguridad de los modelos de la empresa. Tras su salida, afirmó que coincide con otros exempleados que consideran que las empresas de inteligencia artificial no están siendo lo suficientemente cuidadosas.
La crítica de Robinson a OpenAI
Para el exresponsable de los informes de seguridad, el problema no pasa solamente por establecer nuevas regulaciones o aprobar leyes específicas. Según planteó, es necesario modificar la cultura de las compañías de inteligencia artificial, que estaría marcada por una confianza excesiva en la posibilidad de solucionar los problemas a medida que aparecen.
Robinson cuestionó particularmente el optimismo con el que la industria enfrenta los riesgos asociados al desarrollo de sistemas cada vez más avanzados. Según su análisis, el enfoque actual parte de la idea de que los inconvenientes podrán resolverse cuando se presenten.El exintegrante de OpenAI también mencionó distintos incidentes de seguridad para explicar sus preocupaciones. Entre ellos, citó un episodio relacionado con Hugging Face, en el que la empresa liberó por error un grupo de agentes, y otro caso posterior en el que un modelo en entrenamiento logró esquivar restricciones para acceder a internet.
En este último episodio, el sistema de monitoreo detectó la actividad y alertó al personal, pero no consiguió apagar automáticamente el modelo como estaba previsto.
OpenAI defendió sus controles de seguridad
Ante los cuestionamientos, OpenAI sostuvo que trabaja para evitar que sus modelos superen la capacidad de la compañía para administrarlos y protegerlos de forma segura. También aseguró que pausa entrenamientos o retiene lanzamientos cuando considera necesario desacelerar el desarrollo.
MÁS INFO
La empresa señaló además que está ampliando el trabajo con evaluadores externos y fortaleciendo sus sistemas de monitoreo en tiempo real.
La salida de Robinson se produjo semanas después de la renuncia de Jacob Coxon de Anthropic, quien también había trabajado en OpenAI y cuestionó el rumbo de las principales compañías de IA. Para Robinson, el escenario actual requiere una mayor humildad por parte de quienes impulsaron el rápido desarrollo de esta tecnología.