El presidente de Estados Unidos, Donald Trump, dijo que el Congreso quiere regular el sector de la inteligencia artificial (IA) "hasta acabar con él", según una entrevista concedida a Punchbowl News y publicada el viernes.
Las declaraciones de Trump ponen de relieve un debate cada vez más intenso en Washington sobre hasta qué punto se debe regular de forma estricta un sector en rápida evolución y que, en gran medida, ha operado sin nuevas normas federales.
Los legisladores han presentado varias propuestas que aún no han avanzado, entre ellas un proyecto de ley que obligaría a los desarrolladores de los modelos de IA más potentes a someterlos a auditorías de seguridad independientes.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
El debate sobre la regulación de la IA cobró mayor urgencia en las últimas semanas, después de que los desarrolladores OpenAI y Anthropic anunciaron que sus sistemas de IA se salieron de control durante pruebas de seguridad.
El agente de OpenAI desencadenó un ataque que comprometió la infraestructura de la compañía Hugging Face, una plataforma en la que los desarrolladores almacenan y colaboran en el código de los modelos de IA.
El incidente puso de manifiesto que las crecientes capacidades de la IA ya son la amenaza para la seguridad que los expertos temían desde hace tiempo y que incluso los mejores desarrolladores pueden verse sorprendidos por fallos que sus modelos pueden aprovechar.
El Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio propuso por separado el viernes unas directrices para evaluar los sistemas de IA y solicitó la opinión del público.
La función del NIST es elaborar normas para la ciencia y la tecnología. Las directrices están dirigidas a organizaciones que deseen "medir el impacto de sus sistemas de IA", según el NIST.
(Editado en español por Carlos Serrano)