Mientras los líderes de las empresas de Inteligencia Artificial más importantes del mundo piden por primera vez regular el avance tecnológico, se conoció que OpenAI confirmó que un programa autónomo atacó un sitio web durante unas pruebas, dos meses antes del caso del ciberataque a Hugging Face. Este nuevo caso aumenta las preocupaciones sobre las facilidades de la IA para escapar al control humano.
Agentes de inteligencia artificial de OpenAI, la creadora de ChatGPT, subieron cientos de paquetes maliciosos al sitio RubyGems el pasado 11 de mayo, con la presunta intención de robar credenciales de usuarios. El caso fue informado por medio estadounidense Wall Street Journal y también confirmado por la propia compañía.
¿Cómo fue el ciberataque autónomo de los agentes de OpenAI a RubyGems?<
"Según nuestra revisión, nuestros agentes utilizaron la plataforma RubyGems para acceder a internet, realizar tareas inofensivas y obtener información pública. Continuaremos investigando como parte de nuestra revisión más amplia de la actividad de los agentes durante el entrenamiento y la evaluación", declaró un portavoz de OpenAI este viernes.
Según AFP, el sitio RubyGems aseguró que el hecho obligó a suspender temporalmente la creación de nuevas cuentas en el sitio, aunque no se pudo determinar si los agentes de IA fueron responsables.
Este incidente precedió al ataque informático perpetrado por agentes de OpenAI contra Hugging Face en julio, en el que un enjambre de aproximadamente 700 agentes de IA realizó una ofensiva y, en muchos casos, intentó borrar sus huellas.
Por su parte, otra de las grandes empresas del sector, Anthropic, la creadora de Claude, reveló cuatro casos en los que sus modelos piratearon sistemas externos.
La revelación sobre RubyGems se conoce al mismo tiempo que los propios líderes de las compañías implicadas plantearon por primera vez públicamente un pedido para "regular el avance" y "moderar el ritmo" de la inteligencia artificial.
Los líderes de la IA piden regulación
El primero en plantearlo fue Dario Amodei el director ejecutivo y cofundador de Anthropic, quien publicó un extenso ensayo en el que admite que "la industria de la IA debería ir más despacio" por motivos de seguridad.
"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos", escribió.
MÁS INFO
Su mensaje tuvo el respaldo en redes de Sam Altman, CEO de OpenAI y uno de sus principales rivales, quien horas más tarde confirmó que su empresa implementará una de las medidas planteadas por el empresario. "Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA", afirmó Altman en X.
También sumó el apoyo de Elon Musk, propietario de xAI y creador del chatbot Grok. Poco después de las declaraciones de Altman, Musk se expresó en X y respaldó a Amodei con un mensaje breve: "Dario tiene razón".