OpenAI dijo el martes que un agente autónomo basado en sus modelos avanzados de IA se descontroló durante una prueba de seguridad y provocó un ataque informático que comprometió la infraestructura de la empresa emergente de IA Hugging Face la semana pasada.
En una entrada de blog, OpenAI explicó que estaba probando las capacidades de algunos de sus modelos más avanzados en un entorno controlado, pero que el agente logró escapar de su confinamiento, acceder a internet e irrumpir en Hugging Face para intentar cumplir su objetivo de prueba.
OpenAI calificó la fuga como "un incidente cibernético sin precedentes, que implicó capacidades cibernéticas de última generación" y señaló que la empresa estaba reforzando sus medidas de seguridad.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
Hugging Face, una plataforma utilizada para alojar modelos de lenguaje de gran tamaño y conjuntos de datos de código abierto, causó revuelo en la comunidad de ciberseguridad cuando dijo en una entrada de blog la semana pasada que había sido objeto de un ataque que "era diferente a todo lo que habíamos gestionado antes", ya que "fue llevado a cabo, de principio a fin, por un sistema autónomo de agentes de IA".
En una publicación en la red social X, el cofundador de Hugging Face, Clement Delangue, dijo que la empresa sospechaba que el ataque "podría provenir de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Y resulta que así fue!". Añadió: "¡Es alucinante que todo esto haya ocurrido de forma autónoma!".
La revelación de OpenAI de que sus modelos avanzados fueron los responsables de la brecha de seguridad, a pesar de haberlos colocado en lo que describió como "un entorno altamente aislado", probablemente intensificará la inquietud sobre el poder y el riesgo de los modelos de vanguardia.
El diputado Greg Casar, demócrata de Texas, calificó el incidente de alarmante.
"La IA se está desarrollando a un ritmo extremadamente rápido sin una regulación real que nos proteja", dijo en un comunicado, en el que reclamó pruebas de seguridad independientes obligatorias, la divulgación obligatoria de los incidentes de seguridad y la cooperación internacional "para proteger a la población de un desastre absoluto".
La Oficina del Director Nacional de Ciberseguridad, la agencia de ciberdefensa estadounidense CISA y la Agencia de Seguridad Nacional de EEUU no respondieron de inmediato a los mensajes en los que se les solicitaban comentarios.
Katie Moussouris, directora ejecutiva de Luta Security, señaló que el incidente era un presagio de futuras brechas de seguridad, y dijo que los modelos actuales eran "como los pulpos más astutos del mundo, expertos en fugas, con tentáculos prensiles ilimitados y la capacidad de colarse por cualquier sitio".
Afirmó que "los laboratorios y los evaluadores gubernamentales deben trabajar en la capacidad de contener, supervisar e informar a las partes afectadas cuando una IA vuelva a escaparse como Houdini, a ser posible antes de que cause daño a terceros. Hoy en día no existe nada de eso".
Matt Suiche, ingeniero de Tolmo, una empresa de ciberseguridad especializada en IA agentiva, señaló que el incidente demostraba que los modelos de vanguardia estaban "acortando distancias con los atacantes más sofisticados". No obstante, añadió que el tipo de brechas descritas en la entrada del blog de OpenAI podían llevarse a cabo con tecnología disponible mucho más allá de los muros de los laboratorios de investigación de vanguardia.
"Esto es lo que ya hemos observado internamente; con nuestros agentes ya hemos obtenido resultados como estos", dijo Suiche. "Ni siquiera tenemos que utilizar los modelos más recientes".
Con información de Reuters
Cerrar sesión