En un informe titulado "When AI builds itself", publicado el 4 de junio de 2026, Anthropic sostiene que el mundo debería tener la opción de pausar temporalmente el desarrollo de la IA para que la regulación y la investigación en seguridad puedan seguir el ritmo de la tecnología. "Creemos que sería bueno para el mundo tener la opción de frenar o pausar temporalmente el desarrollo de la IA de frontera", escribieron sus autores.
El riesgo que señalan: la automejora recursiva
El concepto central del ensayo tiene un nombre técnico: "automejora recursiva" (RSI por sus siglas en inglés). Es el momento en que un sistema de IA sería capaz de diseñar y desarrollar a su sucesor sin intervención humana. En palabras simples, ocurriría si un sistema de inteligencia artificial pudiera ayudar a diseñar, entrenar o mejorar modelos más avanzados, reduciendo cada vez más el papel humano.
Anthropic no dice que ya se llegó a ese punto. Pero advierte que está cerca. Jack Clark, cofundador de Anthropic, estima que algunos modelos podrían alcanzar esa capacidad dentro de dos años. El argumento se apoya en datos propios: según el informe, Claude ya redacta más del 80% del código que se integra en su sistema, y cada ingeniero de Anthropic produce hoy 8 veces más código por trimestre que entre 2021 y 2025. Es decir, la aceleración ya es visible —y se está acelerando en este momento—.
Por qué una pausa unilateral no alcanza
La propuesta tiene una condición indispensable que la hace muy difícil de implementar. Una pausa unilateral podría resultar ineficaz en un entorno de alta competencia global. Si una sola empresa decidiera frenar sus investigaciones mientras otras continuaran avanzando, estas últimas obtendrían una ventaja competitiva significativa. Por ello, la compañía insiste en que cualquier medida de este tipo debería ser internacional, verificable y coordinada entre los principales laboratorios de IA y las grandes potencias tecnológicas, especialmente los Estados Unidos y China.
La paradoja que el ensayo no responde
El elefante en la habitación es evidente. Anthropic es simultáneamente una de las empresas que más rápido desarrolla modelos de IA de frontera y la que ahora pide que todos paren. Algunos expertos consideran que la advertencia es razonable y refleja preocupaciones legítimas. Otros, en cambio, sostienen que la iniciativa podría responder también a intereses estratégicos de la propia Anthropic, buscando influir en la regulación del sector o limitar el avance de competidores.
Por qué el pedido llega ahora
La propuesta es inédita por quién la hace. Teniendo en cuenta la importancia actual de Anthropic y su conocimiento del potencial de los modelos de IA, la nueva alerta no debería caer en saco roto, aunque la congelación mundial del desarrollo de la IA parece impensable ante la feroz competencia entre los Estados Unidos y China por su control mundial y las motivaciones económicas con inversiones de billones de dólares. Lo que Anthropic propone no es detener la IA que ya usamos —Claude, Gemini, ChatGPT seguirían funcionando—, sino pausar el entrenamiento de los modelos de la próxima generación, los que aún no existen.
Cerrar sesión