Investigadores militares chinos han usado los resultados de modelos de inteligencia artificial estadounidenses desarrollados por OpenAI y Anthropic para entrenar sistemas locales con el fin de mejorar la capacidad de defensa de China, según un análisis de Reuters de más de 80 artículos académicos y patentes chinos.
Estos hallazgos ofrecen una visión poco habitual de cómo las instituciones militares y relacionadas con la seguridad en China están aprovechando los modelos de IA estadounidenses de vanguardia como atajo para desarrollar sus propios sistemas especializados, pese al esfuerzo de Washington por restringir el acceso de Pekín a chips avanzados y tecnologías estratégicas.
Los documentos muestran un uso generalizado de una técnica conocida como "destilación de modelos", en la que los resultados de un potente sistema de IA se utilizan para entrenar modelos más pequeños y especializados que pueden implementarse a nivel local sin los enormes requisitos informáticos necesarios para construir sistemas de IA de vanguardia desde cero.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
El análisis de Reuters, que incluyó una investigación recopilada por la Fundación Jamestown, con sede en Washington, y compartida en exclusiva con la agencia de noticias, reveló que la destilación es ampliamente utilizada por investigadores vinculados al Ejército Popular de Liberación y otras instituciones militares.
Los documentos sugieren que las instituciones de defensa chinas consideran que los modelos punteros de IA de Estados Unidos son tanto una fuente de conocimientos técnicos como una forma de reducir la brecha con sus rivales estadounidenses.
La controversia se centra en la extracción no autorizada, no en la destilación en sí misma, una práctica muy extendida en el sector.
El tema se ha convertido en un punto de fricción de cara a las conversaciones entre Estados Unidos y China sobre gobernanza y seguridad de la IA. Washington ha acusado a algunas entidades chinas de usar la destilación para extraer capacidades de los modelos de IA, lo que podría socavar los controles de exportación e infringir derechos de propiedad intelectual.
China ha rechazado las acusaciones, afirmando que Washington persigue un "hegemonismo" en materia de IA, al tiempo que sostiene que las empresas estadounidenses han llevado a cabo prácticas similares.
Los desarrolladores chinos también han rebatido las afirmaciones de que sus avances en IA se basan en modelos extranjeros. La startup de IA Moonshot desmintió la semana pasada las acusaciones de la Administración Trump de que su modelo Kimi K3 se hubiera creado mediante destilación, afirmando que se basaba en innovaciones propias.
Sunny Cheung, investigador de Jamestown que analizó más de 60 de estos artículos, afirmó que los científicos militares chinos están captando de forma sistemática los pasos del razonamiento de los modelos occidentales para adaptarlos a la vigilancia, la guerra cibernética y la toma de decisiones tácticas.
"Enseñar a un modelo la respuesta correcta es una cosa, pero enseñarle el razonamiento que hay detrás de la respuesta es mucho más difícil", señaló Cheung.
"Estos artículos demuestran que los investigadores vinculados al ejército chino están intentando transferir ese razonamiento costoso y exclusivo de los modelos occidentales a sistemas más pequeños que puedan controlar y desplegar a nivel local".
Reuters verificó la bibliografía académica e identificó otras dos docenas de estudios de caso vinculados al ejército.
Un artículo publicado el año pasado por investigadores de la Unidad 96941 del EPL, una unidad de inteligencia militar y guerra cibernética con sede en Pekín, describía el uso de GPT-3.5 de OpenAI para procesar código fuente militar sensible.
Los investigadores afirmaron que los modelos de terceros no eran adecuados para manejar información clasificada. Para superar esa limitación, utilizaron el GPT-3.5 para resumir el código de software y entrenaron un modelo nacional a partir de esos resúmenes para que funcionara íntegramente dentro de las redes militares chinas.
La Casa Blanca, el Pentágono, el Ministerio de Asuntos Exteriores de China, el EPL y OpenAI no respondieron a las solicitudes de comentarios.
AMPLIOS USOS
Los investigadores chinos han utilizado la destilación para fines que van desde la vigilancia de contenidos hasta el despliegue militar, según reveló el análisis de los artículos realizado por Reuters y Jamestown.
En la Universidad del Norte de China, que mantiene estrechos vínculos con la industria armamentística del país, los investigadores utilizaron Claude 3 Haiku, de Anthropic, para generar datos de entrenamiento sintéticos destinados a un modelo de clasificación de textos para la supervisión de las redes sociales y la moderación de contenidos.
Anthropic afirmó que no proporciona acceso comercial a Claude en China ni a empresas controladas por Pekín, y que utiliza sistemas de supervisión para detectar incumplimientos de sus políticas.
La empresa añadió que los modelos destilados pueden perder las medidas de seguridad de los sistemas originales, lo que podría permitir que capacidades sensibles se transfieran a modelos que escapan a su control.
Investigadores de la Academia de Ciencias Militares de China utilizaron la destilación para ejecutar un modelo de reconocimiento de objetivos en hardware táctico durante operaciones marítimas simuladas en las que participaban drones, buques y submarinos no tripulados, según mostró un estudio publicado a principios de este año.
China ha adoptado la destilación en su intento por competir con Estados Unidos en el ámbito de la IA de vanguardia, pero los expertos advierten de que esa tecnología presenta importantes limitaciones.
A medida que los modelos de IA chinos acortan distancias con sus homólogos estadounidenses, los investigadores militares también están analizando la destilación como un posible riesgo para la seguridad.
En enero, investigadores de la Universidad de Ingeniería del Ejército publicaron un artículo sobre la amenaza de la "destilación sin datos", un método de ingeniería inversa de las capacidades de un modelo sin acceso directo a sus parámetros fundamentales.
Para contrarrestar esa vulnerabilidad, propusieron mecanismos de defensa diseñados para enmascarar la información lógica oculta que queda al descubierto en los resultados públicos de un modelo.
Además, los modelos destilados solo heredan capacidades seleccionadas y no pueden replicar por completo la amplia inteligencia de los sistemas de vanguardia.
Trevor Koverko, cofundador de la empresa de datos de IA Sapien, afirmó que los modelos destilados siguen siendo menos capaces que sus modelos de referencia.
"Lo mejor es entenderlo como la transferencia de capacidades seleccionadas a un sistema más económico y controlado localmente, no como una forma de alcanzar la independencia respecto a la IA de vanguardia".
Con información de Reuters
Cerrar sesión