El debate sobre la inteligencia artificial (IA) y la ciberseguridad suele concentrarse en los modelos y en si deben mantenerse bajo controles estrictos o permitir el acceso a sistemas open weight. Sin embargo, desde Red Hat plantean que la discusión también debería enfocarse en cómo proteger la infraestructura completa que hace funcionar a estos sistemas, especialmente ante el crecimiento de los agentes de IA.
Un agente de IA no está compuesto únicamente por un modelo. Según Red Hat, su seguridad depende de un stack completo de software que incluye el modelo principal, el agentic harness, las técnicas de sandboxing, la protección durante la ejecución, los controles sobre los datos y la infraestructura sobre la que funciona. Por eso, una estrategia de seguridad debe contemplar cada uno de estos componentes y no limitarse a analizar el modelo.
El rol de los modelos open weight
Chris Wright, Chief Technology Officer y Senior Vice President de Global Engineering de Red Hat, sostiene que la transparencia es fundamental para desarrollar sistemas seguros. Según su planteo, limitar la investigación a unos pocos modelos propietarios puede generar un riesgo concentrado, mientras que el acceso a modelos open weight permite a los investigadores y defensores analizar posibles vulnerabilidades y desarrollar medidas de protección.
Desde la compañía comparan esta situación con la evolución del Linux y el software open source. Aunque en sus comienzos existían dudas sobre su confiabilidad para entornos empresariales, con el tiempo estas tecnologías se convirtieron en una parte central de la infraestructura informática global.
En este contexto, Red Hat considera que la combinación de transparencia, modelos abiertos, agentic harnesses y herramientas de sandboxing open source puede contribuir a construir sistemas de IA más seguros. La compañía también menciona un caso reciente en Hugging Face en el que las soluciones frente a incidentes surgieron a partir de modelos open weight y no de sistemas propietarios.
Además, Red Hat respaldó una carta abierta de Microsoft sobre Open Weights y el liderazgo de Estados Unidos en inteligencia artificial, en línea con su postura de que el acceso abierto puede contribuir a mejorar la seguridad durante todo el ciclo de desarrollo del software.
Una propuesta para compartir fallas de IA
La colaboración entre distintas organizaciones también aparece como otro elemento para mejorar la protección de estos sistemas. Red Hat participó junto con NVIDIA, la Linux Foundation y otros integrantes de la Open Secure AI Alliance en el desarrollo de una Solicitud de Comentarios (RFC) para el grupo de trabajo Shared AI Findings Exchange (SAFE).
La propuesta plantea un marco neutral para que los equipos puedan recopilar, analizar y compartir de manera confidencial información sobre fallas operativas en sistemas de IA, sin enfocarse en atribuir responsabilidades.
Según Red Hat, este intercambio de información puede permitir que las herramientas evolucionen más rápido y que las capacidades de defensa se fortalezcan frente a amenazas reales. La RFC completa de SAFE está disponible en GitHub para que la comunidad pueda revisarla, debatirla y realizar aportes.