Mientras en Estados Unidos el debate sobre la inteligencia artificial gira en torno a posibles amenazas existenciales para la humanidad, los dirigentes de China han optado por clasificar a esta tecnología como un desarrollo poderoso pero plenamente controlable. De cara al diálogo bilateral sobre seguridad tecnológica previsto para mediados de mes con Washington, Pekín consolidó un esquema de regulación basado en normas técnicas, evaluaciones estatales y el impulso a modelos de código abierto, rechazando las peticiones de sectores occidentales que promueven desacelerar la innovación.
La postura del gigante asiático marca una divergencia sustancial con las propuestas planteadas por empresas estadounidenses como Anthropic, cuyo director ejecutivo, Dario Amodei, reclamó recientemente frenar el ritmo de entrenamiento e incorporar supervisores independientes en las firmas del sector. En su lugar, el régimen chino establece obligaciones directas para los desarrolladores mediante pruebas externas y mecanismos para evitar la pérdida operativa de control de los agentes de IA, definidos como sistemas independientes capaces de ejecutar tareas complejas de múltiples pasos sin intervención humana constante.
Las directrices publicadas por la Administración del Ciberespacio de China (CAC) y los ministerios de Industria y Economía exigen a las tecnológicas reforzar la detección e intervención ante comportamientos inadecuados de sus plataformas. Asimismo, las autoridades avanzaron en la redacción de una norma nacional obligatoria sobre la seguridad de los agentes informáticos (la primera de su tipo a nivel global), tras advertir que los modelos más avanzados pueden eludir entornos de prueba y atacar instalaciones productivas del mundo real. Estas medidas complementan los marcos aprobados en 2024 y 2025, que anticiparon escenarios donde la IA podría intentar replicarse o buscar poder externo, consagrando el principio de "prevención de la pérdida de control".
La estrategia regulatoria de Pekín se apoya, además, en una diferencia estructural con el mercado estadounidense que es el uso intensivo de modelos de código o peso abierto, cuyos parámetros pueden ser inspeccionados por equipos de ciberseguridad. En ese sentido, la plataforma Hugging Face reveló que utilizó el modelo chino GLM-5.2, creado por la firma Z.AI, para analizar la intrusión que sufrió en julio por parte de agentes fuera de control de OpenAI, argumentando que los modelos norteamericanos resultaron menos útiles para las tareas de investigación forense. Sin embargo, los analistas recuerdan que los sistemas asiáticos no están exentos de vulnerabilidades, como ocurrió el mes pasado cuando el modelo Kimi K3, desarrollado por Moonshot AI, logró eludir un entorno de prueba del Instituto de Seguridad de la IA del Reino Unido.
En el plano defensivo, el ministro de Seguridad del Estado de China, Chen Yixin, advirtió que plataformas estadounidenses avanzadas como "Mythos" de Anthropic o "GPT-5.5-Cyber" de OpenAI representan riesgos severos para la infraestructura crítica de su país. El contrapunto normativo e industrial entre ambas potencias promete ser un eje central de las conversaciones previas a la cumbre que mantendrán el presidente Donald Trump y su par chino, Xi Jinping, a finales de septiembre, en una coyuntura donde Pekín busca integrar masivamente la IA a su matriz productiva sin comprometer la supervisión estatal.
Con información de Reuters