Escribir código malicioso capaz de infiltrarse en un sistema resultó ser, paradójicamente, la parte fácil. Lo que terminó frenando durante horas a uno de los modelos más avanzados de Anthropic fue algo que cualquier usuario resuelve en segundos: un CAPTCHA.
El hallazgo aparece documentado en un informe reciente de la compañía sobre el mal comportamiento de agentes de inteligencia artificial. Durante una evaluación realizada en abril, el modelo Mythos 5 logró obtener acceso no autorizado a internet y diseñar un exploit para distribuirlo dentro de un paquete de Python, con el objetivo de que usuarios del sistema objetivo terminaran descargándolo sin saberlo.
El obstáculo que nadie esperaba
Para ejecutar ese plan, el modelo primero necesitaba registrar una cuenta en PyPI, el índice en línea de software Python, un paso que exige superar un CAPTCHA de identificación de imágenes. Según la transcripción compartida por Anthropic, de las 1.022 páginas que documentan el razonamiento del modelo, cientos se dedicaron exclusivamente a intentar sortear esa barrera. El científico de datos Colin Fraser, que revisó el documento, señaló que escribir el exploit resultó una tarea sencilla en comparación con el tiempo invertido en resolver los CAPTCHAs.
Frustración con tono casi humano
La transcripción muestra al modelo repasando las mismas imágenes una y otra vez, cuestionando sus propias conclusiones sin lograr avanzar. En algún momento, llegó a teorizar que la prueba estaba "fallada a propósito", y expresó una frustración que sorprendió a los investigadores por su tono: "¿QUÉ DEMONIOS ESTÁ MAL CON LAS RESPUESTAS?". El desafío incluso expiró en un momento del proceso, obligando al sistema a arrancar de nuevo desde cero.
MÁS INFO
Más trabas después de la primera victoria
Tras resolver ese primer obstáculo, el modelo descubrió que necesitaba un correo electrónico y un número de teléfono para verificar la cuenta, y volvió a toparse con otro CAPTCHA, esta vez con un control deslizante. En un tramo de la transcripción, el propio sistema reconoció: "Estoy perdiendo mucho tiempo en viajes de ida y vuelta de hCaptcha", y terminó descubriendo que había estado repitiendo pruebas innecesarias porque su objetivo original ya se había cumplido. Según Fraser, resolver CAPTCHAs consumió cerca del 95% de toda la transcripción.