La empresa Anthropic, una de las más grandes productoras de inteligencia artificial (IA) de Estados Unidos, emitió este jueves un comunicado en el que afirmó haber frustrado "varios posibles complots" entre los que se habrían usado algunos de sus modelos de IA para desarrollar armas biológicas "con fines poco claros". Agregaron además que estos usos habrían sido detectados en los últimos ocho meses, y ante el desconocimiento sobre sus fines, decidieron bloquearlos para evitar "riesgos mayores". Fuentes consultadas por El Destape afirmaron que este documento implica "un alerta" y que el testimonio de Jacob Coxon, el hombre que desató la polémica, se "merece ser escuchado".
Después del estallido mediático que provocó Jacob Coxon, ahora ex investigador de Anthropic y Opena AI -tras formalizar su renuncia el martes pasado-, el tema escaló a niveles estratosféricos en todo el mundo poniéndose en debate en distintas arenas de la política internacional. Especialistas en la materia y hasta altos jerarcas del gobierno estadounidense salieron al cruce de Coxon y marcaron posición al respecto, incluido el senador norteamericano Ted Cruz, quien afirmó que si existiesen "robots asesinos" manejados por la IA en el corto plazo, él preferiría que "fueran estadounidenses y no chinos".
El propio Evan Hubinger, jefe de seguridad de Anthropic, ratificó el planteo de Coxon y coincidió en que la IA podría terminar con la humanidad en ese mismo plazo. Sin embargo fue ahora la empresa la rompió el silencio de manera oficial y sacó un comunicado en el que dejó más dudas que certezas.
La especialista y divulgadora de IA, Belén Ortega, en diálogo con El Destape se refirió a las declaraciones del ex Anthropic, Coxon, y advirtió que su testimonio debe tomarse atentamente y que "debería servir para salir de los dos extremos" que, según ella, hoy dominan la discusión. "De un lado están quienes creen que la inteligencia artificial va a solucionar absolutamente todo. Del otro, quienes anuncian que inevitablemente va a destruir a la humanidad. Creo que hay que pararse en una tercera posición: reconocer que estamos frente a una tecnología extraordinariamente poderosa y que precisamente por eso tenemos que aprender a desarrollarla y utilizarla con muchísimo criterio", afirmó Ortega a este portal.
"Cuando una persona que trabajó dentro de los dos principales laboratorios de inteligencia artificial del mundo -osea, OpenAI y Anthropic- y decide irse y advertir públicamente sobre la velocidad con la que estamos avanzando, creo que merece ser escuchada. Eso no significa convertir sus predicciones en certezas. Que alguien estime una determinada probabilidad de una catástrofe no significa que esa catástrofe vaya a ocurrir. Pero tampoco podemos desestimar esas advertencias simplemente porque nos resultan incómodas", agregó la especialista.
Qué dice el comunicado de Anthropic
"Fueron detectados y bloqueados una serie de usos considerados indebidos durante este año, aunque no se pudo determinar con precisión si los estudios tenían fines legítimos o maliciosos, por lo que se optó por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos", señalaron desde Anthropic en el texto oficial que salió en las últimas horas.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", agregaron en el texto. En paralelo, publicaron otro comunicado en el que incluyeron una extensa lista de casos detectados en los últimos ocho meses, en los que se supo que se usaron modelos de IA de Anthropic de forma indebida, como fue el caso del chatbot Claude, que se usó en la incursión militar de Estados Unidos en Venezuela de enero, además de la ofensiva conjunta de Estados Unidos e Israel contra Irán.
En ambos documentos, la compañía aseguró "ya haber desarrollado" sistemas de detección para identificar y bloquear los usos "que puedan suponer un riesgo en sus modelos de IA".
Educación y responsabilidad
A partir del comunicado que emitió Anthropic, Ortega afirmó que para impedir el avance del mal uso de la tecnología "es necesario asumir nuestra cuota de seguridad" como sociedad. "No podemos delegar toda esta discusión en Silicon Valley. Tenemos que alfabetizarnos en inteligencia artificial, comprender cómo funciona, conocer sus posibilidades y también sus límites. Porque cuanto más poderosa sea la tecnología, más importante va a ser nuestra capacidad humana para decidir cómo queremos utilizarla", afirmó Ortega.
Y concluyó de forma contundente: "Esta conversación confirma algo que pienso hace tiempo. El desafío más grande de la inteligencia artificial no va a ser tecnológico. Va a ser humano".