En abril de este año, una adolescente tuvo un parto en el baño de su casa acompañada sólo por ChatGPT, que la guio en lo que tenía que hacer. Nació una bebé sana, la recién parida había ocultado su embarazo hasta entonces pero así y todo llamó a su novio para que la ayude. Juntes buscaron una coartada: fueron a la estación de Ezpeleta, donde el muchacho la tomó en brazos y le dijo a un transeúnte que había encontrado a la bebé ahí tirada. Al día siguiente, pasada la conmoción, la madre de 15 años eligió ir a buscar a su hija al hospital. Aun asustada, supo qué hacer: puso el cuerpo.
¿A cortar el cordón umbilical? ¿A tomar la cabeza de la bebé para recibirla entre las piernas y que no se golpee? ¿Qué más podría “enseñar” una Inteligencia Artificial, una máquina, a un animal humano cuyo cuerpo lleva inscripto el proceso vital del parto y el nacimiento? ¿Habrá simulado empatía el chat? Tal vez, con esa voz sintética elaborada a partir de millones y millones de voces humanas, le dio fuerzas, le prometió que todo saldría bien. ¿Cuánto habrán aprendido las máquinas de ese acompañamiento en el baño de una casa del conurbano?
Hace diez años, una novedad en los videojuegos instalados en las pantallas de celulares sacó a cientos de miles de usuaries a la calle para activar Pokémon Go y “cazar” a los personajes que se encontrarían a través de la aplicación, pero en sitios reales. Una década más tarde sabemos que las personas que salieron en busca de pokémones recorrieron más de 100 mil millones de kilómetros y que muchas escanearon voluntariamente espacios físicos para alimentar los sistemas de Niantic. Hoy, Niantic Spatial desarrolla junto con Vantor tecnología capaz de orientar drones y otros dispositivos en zonas donde no funciona el GPS. La empresa niega que los escaneos hechos por jugadores de Pokémon Go sean utilizados para ese fin. A veces es fácil sentirse como ganado en la manga, leer el descargo de las empresas y activar una saludable incomodidad. Sin embargo, seguimos aceptando todas las cookies que nos ofrecen cada vez que entramos a un sitio web.
El miércoles de esta semana, un exempleado de Anthropic y de OpenAI, dos empresas de Inteligencia Artificial —la primera fundada por exintegrantes de la segunda que se alejaron, entre otros motivos, por diferencias sobre la seguridad y el rumbo que debía tomar el desarrollo de la IA— puso una alerta en X que se desparramó por el mundo en cuestión de horas: denunció que las compañías para las que trabajó y de las que estaba renunciando en vivo estarían corriendo una carrera irresponsable “que podría eliminarnos a todos” antes de que termine la década. Lo leí en el subte con una mezcla de incredulidad y espanto, pensando más en cuánto demoraría el tren que en la calidad de esa advertencia.
MÁS INFO
El tuit de Jacob Coxon tuvo decenas de millones de visitas en apenas unas horas y saltó a medios tan diversos como Forbes, The Guardian, El País, New York Times, por mencionar unos pocos. En seguida, Evan Hubinger, responsable de investigación de alineamiento en Anthropic, salió públicamente a decir que Coxon tenía razón en el núcleo de su planteo. Hubinger estima en más de 10% la posibilidad de que una IA provoque la extinción humana durante la próxima década y reconoce que Anthropic todavía no tiene resuelto el problema de alineamiento (un manera contemporánea de de decir "obediencia") de una eventual superinteligencia.
Pero la denuncia del ex jefe de seguridad de Anthropic no es sólo por la capacidad de una tecnología generativa con usos tan desorbitantes como hacer terapia —algo que repiten muchos y muchas adolescentes de este país— o integrar sistemas militares de selección de blancos, como los utilizados durante la campaña estadounidense sobre Irán en la que fue bombardeada una escuela de niñas. El verdadero problema que denuncia Coxon es que los desarrolladores de estas “superinteligencias” conocen los riesgos pero no pueden detenerse. ¿Por qué? Porque otras compañías no se detienen y, aun si todas las empresas de IA occidentales se detuvieran, todavía queda la amenaza de que sea China la que siga adelante con estos modelos. Para llevarlo al lenguaje vulgar: el choque es inminente pero, aun así, prefieren estar primeros en la línea.
MÁS INFO
Es un problema político, como explica Nicolás Llantos en este hilo, no de cálculos matemáticos que vuelvan a las máquinas más benévolas con los seres humanos. “Cuando digo que es una cuestión política es porque hay que empezar por definir el ‘nosotros’ ¿Alineada a nuestros intereses significa a los intereses de quiénes? Hoy, al menos en Occidente, la respuesta a esa pregunta no pasa por el bienestar general sino por la acumulación infinita”, dice Llantos, entre otras cosas. Por eso es ineficaz creer que la aceleración se detendrá porque los mismos que inyectan velocidad al desarrollo de superinteligencias también se exponen a su propia desaparición.
“Hagamos algo antes de tener que aliarnos con nuestros enemigos para luchar contra las máquinas”, me dice una amiga a través de una red social mientras las dos seguimos alimentando a las máquinas con nuestras voces y ubicaciones en los audios que nos mandamos. Soñamos revoluciones, vidas no mediadas por pequeñas pantallas que lastiman las cervicales, hackeos a la hipervigilancia y hasta al propio capitalismo tardío. Hablamos como si nadie nos escuchara. En definitiva, son datos irrelevantes ¿o no tanto?
No es difícil imaginar que quienes concentran los recursos para acelerar esta carrera también fantaseen con tener los estrategias para sobrevivir a sus consecuencias. Su “nosotros” es tan reducido que pueden reunirse en una montaña y jugar a dar vuelta el mundo hacia la derecha como en Mountainhead, la película en la que unos tecnócratas se reúnen para aprovechar el caos que genera una IA en su propio beneficio. Es una sátira, pero la risa queda congelada por la literalidad de los acontecimientos. De hecho, esta semana se presentó en Venecia Musk, un documental de casi cuatro horas sobre el tecnomagnate Elon Musk que incluye el testimonio de Ashley St. Clair, la madre de uno de sus hijos, a quien le habían ofrecido 40 millones de dólares por guardar silencio sobre esa filiación y cualquier otro detalle sobre la intimidad del dueño de SpaceX, Tesla, etc. “Quería tener una legión de hijos antes de la guerra civil”, dijo Ashley a pesar de la oferta, dando cuenta de los planes megalómanos de Musk para "salvar" a la humanidad de su extinción haciendo contratos con mujeres diversas para tener hijos o hijas de quienes no se puede hablar.
El mundo no deja de girar hacia la autodestrucción al día siguiente de la advertencia de Jacob Coxon. No es la primera, más bien la última de una serie de alertas que vienen incluso desde el corazón de las empresas de IA. El propio cofundador de Anthropic, Christopher Olah, habló de aspectos “misteriosos, incluso inquietantes” de estos sistemas cuando acompañó al papa León XIV en la presentación de su encíclica Magnifica Humanitas, que también se escribió en la urgencia de ver el precipicio tan cerca de los pies de humanos que preferimos, tantas veces, no ver. Ni será la última. Aun así, el apocalipsis ya se anunció demasiadas veces.
Y no es que no vaya a suceder: miles de especies se extinguieron ya sobre la fina capa de la tierra que habitamos y, a pesar de nuestra jactancia humana, tal vez seamos una más. ¿Será una oportunidad de reconocer la responsabilidad en el daño que produce esta humanidad? ¿De imaginar un mundo con menos IA y más cuerpo a cuerpo? Un mundo que haga espacio para que una adolescente de 15 años no tenga que parir sola en un baño, que sostenga la materialidad de la escucha, del reconocimiento del dolor de los otros, de las otras, que busque salidas colectivas. El cuerpo aloja emociones que no caben en un chat que, además sólo sigue el discurso y la ansiedad de las preguntas que le hacen -aunque no siente ansiedad, no siente nada. Sin lazos sociales, sin reconocernos en los ojos y las broncas y las injusticias que sufrimos las mayorías, esas emociones pueden explotar como granadas y de hecho lo hacen, a diario. Lo leemos en las cifras de suicidios, en la dificultad de reaccionar, atrapades como estamos en la fragmentación que proponen los algoritmos. Pero nunca es demasiado tarde. Sentir es algo que las máquinas no pueden; rebelarse frente a la crueldad tampoco. La especie humana sí.