Una coalición de legisladores demócratas de la Cámara de Representantes de Estados Unidos pidió a los presidentes ejecutivos de Anthropic, Dario Amodei, y OpenAI, Sam Altman, que expliquen cómo se escaparon sus sistemas de inteligencia artificial de los límites establecidos durante una prueba de seguridad.
Asimismo, añadieron que el Congreso debería celebrar audiencias sobre los incidentes, según las cartas enviadas por los congresistas a las compañías el lunes.
OpenAI y Anthropic revelaron en julio que sus agentes de IA se salieron de sus entornos y habían pirateado los sistemas de otras empresas durante unas pruebas de ciberseguridad.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
Veintinueve legisladores, encabezados por los diputados Greg Casar y Doris Matsui, presionaron a OpenAI para que explicara cómo se supervisan sus agentes de IA durante las pruebas y si los modelos rebeldes eludieron los controles de seguridad de la empresa.
Los congresistas citaron un informe de Reuters que indicó que hubo casos en los que los sistemas de supervisión se desconectaron durante pruebas anteriores de los modelos de OpenAI. En otra carta, 22 legisladores pidieron a Anthropic que detalle los protocolos de seguridad implementados desde que sus agentes irrumpieron en los sistemas de tres empresas.
"Estos incidentes de ciberseguridad, profundamente preocupantes, podrían tener graves implicaciones para la seguridad nacional de Estados Unidos", escribieron los legisladores en su mensaje a Anthropic.
Las cartas, publicadas el lunes, forman parte de un debate cada vez más amplio en Washington sobre hasta qué punto se debe regular de forma estricta un sector de la IA en rápida evolución que, en gran medida, ha operado sin nuevas normas federales.
El Gobierno del presidente Donald Trump se ha pronunciado muy poco en público sobre los "agentes rebeldes" de Anthropic y OpenAI. El viernes, el mandatario criticó las propuestas del Congreso para regular la IA, afirmando que los legisladores quieren regular el sector "hasta acabar con él".
(Editado en español por Carlos Serrano)