La firma de inteligencia artificial Anthropic informó que sus nuevas medidas de seguridad, diseñadas para evitar que sus competidores copien las capacidades de sus modelos Claude, lograron reducir los datos recopilados en los denominados "ataques de destilación" entre un 90% y un 99%. La compañía, con sede en California, logró recortar de manera drástica las maniobras de extracción no autorizada en medio de la intensificación de la competencia tecnológica entre Estados Unidos y China.
La destilación de modelos se ha convertido en una preocupación clave para las principales empresas de inteligencia artificial, como Anthropic, OpenAI y Google. Estas firmas sostienen que dicha práctica permite a los competidores reproducir capacidades avanzadas de manera más rápida y a un menor costo. A partir de las restricciones de acceso al razonamiento de Claude, Anthropic confirmó que "el número de tókenes de razonamiento extraídos por los destiladores es ahora entre 10 y 100 veces menor que antes".
Para frenar las filtraciones a gran escala, la empresa estadounidense dificultó el uso de redes proxy utilizadas para sondear de forma repetida el razonamiento protegido de su sistema. Desde la conducción de Anthropic remarcaron que su esquema de defensa es "aproximadamente tan robusto como los que impiden que Claude ayude a fabricar armas biológicas", registrando además una tasa de falsos positivos inferior al 0,1%.
En el marco de estas acciones de contención, la tecnológica confirmó el bloqueo de decenas de miles de cuentas vinculadas a campañas sistemáticas de destilación. Asimismo, la firma señaló directamente a la startup china de inteligencia artificial Z.ai, también conocida como Zhipu, como un ejemplo concreto de una empresa que intentó extraer capacidades de Claude mientras desarrollaba su modelo GLM-5.3. Ante la denuncia, Anthropic advirtió que tales prácticas suponen serios riesgos para la seguridad y la seguridad nacional, en tanto que la compañía Z.ai no respondió de inmediato a las solicitudes de comentarios.
Con información de Reuters