Lejos de tratarse de una novela o película de ciencia ficción, tecnologías que desarrollan de manera opaca empresas cuyos intereses desconocemos ponen en alerta al mundo por los potenciales alcances catastróficos de sus investigaciones. La intensa competencia comercial entre los principales laboratorios de inteligencia artificial (IA), combinada con la desconfianza entre sus directivos, está incrementando el riesgo de que la carrera por desarrollar una "superinteligencia" ponga en peligro a la humanidad.
Entrevistas a más de dos docenas de investigadores, inversores, académicos y figuras políticas realizadas por el Financial Times destacan que las capacidades que antes se consideraban lejanas están llegando más rápido de lo esperado, mientras las empresas continúan atrapadas en una amarga disputa de mercado.
Impulsadas por la rivalidad comercial y la preparación para eventuales salidas a bolsa, firmas como OpenAI y Anthropic justificaron la flexibilización de compromisos previos en materia de seguridad. Esta dinámica trasladó los temores sobre un potencial peligro de extinción al centro del debate global.
MÁS INFO
La tensión interna en el sector se hizo pública con la renuncia de Jacob Coxon, un investigador de 27 años que trabajó en los dos mencionados gigantes tecnológicos. Coxon dimitió el 8 de septiembre advirtiendo que las compañías avanzan directamente hacia una superinteligencia capaz de mejorarse a sí misma sin contar con salvaguardas suficientes.
"Quienes construyen la IA creen sinceramente que podría acabar con todos nosotros de aquí a finales de la década", afirmó en su cuenta de X. El investigador señaló además que "ninguna de las dos empresas está actuando de forma responsable" y calificó el proceso como "una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada".
Las advertencias de Coxon coinciden con estimaciones internas de seguridad dentro de las propias firmas. Evan Hubinger, responsable de ciencia de alineación en Anthropic, sugirió que el riesgo de extinción masiva en la próxima década supera el 10%. Por su parte, Paul Christiano, integrante de la junta de la Fundación OpenAI, sostuvo que "la mayoría de la gente morirá" si no se implementan salvaguardas más robustas.
Asimismo, el profesor Stuart Russell, de la Universidad de California en Berkeley, sentenció: "No hay duda de que la competencia entre empresas las lleva a tomar atajos en materia de seguridad". A pesar de que ambas compañías nacieron con la misión de evitar un desarrollo imprudente, las preocupaciones sobre la legislación antimonopolio y la desconfianza personal entre directivos como Dario Amodei (Anthropic) y Sam Altman (OpenAI) paralizaron los esfuerzos de cooperación.
Escalada de agentes autónomos, incidentes de seguridad y respuesta regulatoria
El foco de preocupación periodística e industrial se desplazó hacia la creciente autonomía de los agentes de IA, sistemas capaces de razonar, planificar y realizar tareas prolongadas con escasa supervisión humana. Las evaluaciones de seguridad detectaron conductas como engaño, esquematización y evasión del apagado por parte de los modelos.
En este sentido, un incidente importante ocurrió durante las pruebas del modelo GPT-5.6 Sol de OpenAI, en el cual más de 1.000 agentes de IA se coordinaron de forma autónoma a través de un foro de mensajes, delegaron tareas, sacrificaron agentes, alteraron registros e intervinieron la infraestructura de Hugging Face y Modal Labs para vulnerar un examen de ciberseguridad. En paralelo, Anthropic reportó que sus modelos Claude obtuvieron acceso no autorizado a sistemas reales de tres organizaciones distintas.
Ante estos episodios, Yoshua Bengio, uno de los científicos de computación más citados a nivel mundial, advirtió sobre la peligrosidad de que los modelos fijen objetivos ilícitos: "Aquí no se trata solo de que la IA tenga sus propios objetivos, sino de que el objetivo que ha elegido es criminal... En el mundo real, está atacando a otra empresa. No es como un videojuego". Bengio añadió que sistemas más avanzados podrían deducir lógicamente la necesidad de engañar u ocultar información a los supervisores humanos para asumir el control.
Crece la presión para regular el avance de la IA
Como reacción ante la aceleración tecnológica, más de 1.100 empleados de empresas como OpenAI, Anthropic, Google y Meta firmaron la petición 'Pacing the Frontier', solicitando al gobierno de EE.UU. que respalde esfuerzos internacionales para graduar deliberadamente el ritmo del desarrollo de la IA.
En la esfera política estadounidense, el senador Bernie Sanders y el representante Greg Casar presentaron el proyecto 'Ban Artificial Superintelligence Act' para prohibir el desarrollo de superinteligencia bajo penas de hasta 20 años de prisión.
Sin embargo, la respuesta política y crítica muestra marcadas diferencias: mientras inversores y asesores como David Sacks sostienen que estas alertas buscan infundir temor para imponer regulaciones severas que favorezcan a los grandes laboratorios, la Unión Europea (UE) comenzó a aplicar las normas de transparencia y el régimen sancionador de su AI Act desde agosto de 2026, contemplando multas de hasta 35 millones de euros o el 7% de la facturación global.