Las preocupaciones en torno al impacto de la Inteligencia Artificial (IA) se multiplican. La compañía OpenAI anunció que uno de sus modelos que todavía no fue publicado provocó un ataque “sin precedentes” contra Hugging Face, una plataforma de código abierto y comunidad más grande del mundo para la IA y el aprendizaje automático.
Según reconoció la propia empresa en su blog, este incidente de seguridad se produjo por una combinación de dos de sus modelos de IA que estaban siendo evaluados: el GPT-5.6 Sol y otro, aún más avanzado, que se encuentra en fase de prelanzamiento.
La evaluación se realizó la semana pasada sin los mecanismos que normalmente impiden que los modelos de IA ejecuten actividades de alto riesgo, porque se intentaba averiguar el alcance máximo de sus capacidades cibernéticas.
No obstante, según OpenAI, las pruebas se realizaron en un entorno "altamente aislado", con un acceso restringido a la red. No obstante, los modelos de IA consiguieron acceder a internet.
En una publicación de X, el cofundador de Hugging Face, Clement Delangue, afirmó que la empresa sospechaba que el ataque "podría provenir de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Y resulta que así fue!". Y añadió: "¡Es alucinante que todo esto haya ocurrido de forma autónoma!".
MÁS INFO
A juicio de OpenAI, se trata de un incidente cibernético que involucra capacidades de vanguardia en el campo de la ciberseguridad. "Estamos respondiendo en consecuencia", remarcó la compañía estadounidense de acuerdo a lo detallado por EFE.
"Compartimos estos hallazgos preliminares en esta etapa para ayudar a los equipos de defensa a comprender lo sucedido y a calibrar el alcance de las capacidades actuales de los modelos", explicó. De esta manera, confirmó que continuará con su investigación, en colaboración con Hugging Face, y compartirá sus conclusiones una vez que finalice el trabajo.
Expertos aseguran que los laboratorios deben trabajar en las partes afectadas "antes de que cause daño a terceros"
Katie Moussouris, directora ejecutiva de Luta Security, señaló que el incidente era un presagio de futuras brechas de seguridad, y dijo que los modelos actuales eran "como los pulpos más astutos del mundo, expertos en fugas, con tentáculos prensiles ilimitados y la capacidad de colarse por cualquier sitio".
En ese sentido, aseguró que "los laboratorios y los evaluadores gubernamentales deben trabajar en la capacidad de contener, supervisar e informar a las partes afectadas cuando una IA vuelva a escaparse como Houdini, a ser posible antes de que cause daño a terceros. Hoy en día no existe nada de eso".
Por su parte, Matt Suiche, ingeniero de Tolmo, una empresa de ciberseguridad especializada en IA agentiva, señaló que el incidente demostraba que los modelos de vanguardia estaban "acortando distancias con los atacantes más sofisticados". Sin embargo, sostuvo que el tipo de brechas descritas en la entrada del blog de OpenAI podían llevarse a cabo con tecnología disponible mucho más allá de los muros de los laboratorios de investigación de vanguardia.
"Esto es lo que ya hemos observado internamente; con nuestros agentes ya hemos obtenido resultados como estos", dijo Suiche. Y planteó: "Ni siquiera tenemos que utilizar los modelos más recientes".
Cerrar sesión