En los últimos meses vimos un boom de filósofos contratados por empresas de inteligencia artificial para resolver los dilemas éticos que plantea esta tecnología. Uno de los casos más famosos fue el de la filósofa de Oxford Amanda Askell, que escribió el "alma digital" del chat de Anthropic, la empresa que quedó en el centro de la polémica por la advertencia que hiciera el investigador tecnológico Jacob Coxon respecto de que la IA podría “matarnos a todos” al final de la década. ¿Dónde estaban entonces las alertas de los filósofos mientras la IA adquiere un poder semejante al de un desastre nuclear?
¿Por qué las empresas de inteligencia artificial contratan filósofos?
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
En junio, el diario británico The Economist publicó un informe con datos del Banco de la Reserva Federal de Nueva York que mostraron cómo la tasa de desempleo entre filósofos era menor a la de quienes se dedican a la informática. Para filósofos era del 5,1%, mientras que para informáticos del 7%. En una entrevista con el diario español La Vanguardia, el filósofo de la Universidad de Yale Luciano Floridi describió el fenómeno como una “hemorragia” y explicó que muchos de ellos son convocados por las empresas de Silicon Valley incluso antes de haber terminado sus formaciones de posgrado o doctorado.
En febrero de este año, The Wall Street Journal publicó una extensa entrevista con Amanda Askell, que explicó que el objetivo de su trabajo con el chatbot Claude fue “dotarlo de moralidad” para que sepa distinguir el “bien del mal”. Por esos meses, la empresa Anthropic estalló en popularidad porque se enfrentó al Pentágono al negarse a eliminar las restricciones éticas de su modelo para uso militar. Esa disputa se dio después de que varios medios publicaran que el chatbot Claude habría sido utilizado en la toma de decisiones sobre el secuestro del presidente de Venezuela, Nicolás Maduro.
Lo llamativo tanto de aquel episodio como del caso de Anthropic es que no apareció ninguno de estos cientos de filósofos de Silicon Valley a hacerse eco de la discusión.
MÁS INFO
Entrenar al chatbot para no ser un "matón": la ética detrás del código
Explicado por la propia Askell, el trabajo de filósofos en empresas con chats de inteligencia artificial implica colaborar en la creación de criterios para que “no actúe como un matón” en una conversación o no se deje “manipular” por los usuarios. O, por ejemplo, para entrenarlos en la mayéutica socrática y que prioricen así la búsqueda de una verdad en vez de la adulación, según explicó a La Vanguardia Jörg Noller, experto en filosofía e IA de la Universidad Ludwig Maximilian de Múnich.
Dentro de los chatbots, el de Anthropic es el más interesante en términos éticos porque en la constitución de su modelo hay materiales fuente como la ética deontológica kantiana (reglas morales universales muy estrictas) o la Declaración Universal de los Derechos Humanos. Pero la mayoría se rige por la ética utilitarista, cuyos fundadores fueron Jeremy Bentham y John Stuart Mill, que promueve un razonamiento basado en un cálculo de costo-beneficio.
MÁS INFO
¿Qué es el "ethic washing" y cómo influye en Silicon Valley?
A la luz de los últimos eventos, la presencia de estos filósofos se revela más como una estrategia de "ethic washing" que como la práctica de una tarea filosófica en sí misma. Consultado por este medio, el filósofo chileno Camilo Pino, autor de dos libros sobre el tema publicados en editorial Planeta, opinó que “a la mayor parte de esta gente la contratan por ethic washing. Sus objetivos son técnicos dentro del mundo de la Inteligencia Artificial, como por ejemplo cuando los chats tienen alucinaciones o dan datos falsos. Los filósofos asisten para trabajar en el reconocimiento de la ignorancia que la IA no puede hacer”.
Pino sostiene que estos filósofos están dedicados exclusivamente al ámbito interno de las inteligencias artificiales y no a los problemas que se derivan de ellas. “Por ejemplo, si la IA podría convertirse en un peligro en manos equivocadas, esos son elementos realmente importantes para la ética, pero que no son relevantes para este grupo de filósofos porque, al final del día, van en contra de los fines de las empresas que los contrataron”, puntualizó.
También lo planteó en los mismos términos la teóloga y filósofa de Países Bajos Carmody Grey, que fue convocada por Anthropic para orientar la formación moral de los sistemas de IA, pero rechazó la oferta después de varias conversaciones. En diálogo con El País, Grey sostuvo que, si bien las personas que se contactaron con ella parecían tener una “curiosidad filosófica sincera”, no le convenció que todo fuera a puertas cerradas, en ese terreno y en esos términos.
MÁS INFO
“En el fondo (las empresas de IA) existen para vender un producto. Por eso es tan importante cambiar de preguntas cuando hablamos de la IA; tenemos que pensar en sus efectos: concentra el poder, difumina responsabilidad, esquilma la naturaleza, expropia culturas y lenguas con ánimo de lucro y probablemente nos haga más solos y tontos”, razonó la filósofa de Países Bajos.
Grey dijo que estas grandes tecnológicas contratan filósofos así como un presidente tiene un asesor en ética, pero que en la práctica ya decidieron cuáles son las preguntas filosóficas que pueden hacerse. “Son preguntas que nos invitan a poner nuestra atención filosófica en el producto. Pero es el foco equivocado. Las preguntas morales y filosóficas más urgentes que plantea la IA no son sobre la IA. Son sobre los efectos de la IA en las personas y el planeta, sobre el poder, sobre quién responde, sobre la adicción, la soledad y nuestra capacidad de valorar nuestra humanidad”, sumó.
En este panorama, el filósofo chileno Pino dijo ante El Destape que tiene “sospechas” respecto al margen de acción de estos profesionales en las empresas de Silicon Valley. “Es bastante comedido respecto a los verdaderos problemas”, reflexionó.
Esa restricción para ejercer la actividad filosófica va a contramano de la autonomía radical necesaria para pensar contra uno mismo, la época y el poder. “La filosofía por naturaleza requiere una libertad intelectual que las empresas no son capaces de garantizar”, señaló Pino, y explicó que muchos de estos profesionales no salen de universidades públicas, sino de programas específicos de Inteligencia Artificial cuyos profesores ya trabajan en Silicon Valley; esos programas funcionan más o menos como un semillero.
El largoplacismo, la filosofía detrás de los superricos de Silicon Valley
A principios de la década empezó a popularizarse en círculos académicos el término “largoplacismo radical”, acuñado por dos filósofos de Oxford, Hillary Graves y William MacAskill. Según una investigación de El Confidencial, esa corriente filosófica antepone la pretensión de garantizar un futuro a la humanidad antes que priorizar problemáticas políticas, éticas y sociales actuales.
El futuro sobre el que piensa el largoplacismo no es de mediano plazo, sino cuando el transhumanismo ya haya hecho su trabajo y la vida en otros planetas sea posible. Esto se producirá cuando finalmente consigamos colonizar otros planetas y el sueño transhumano de fusionarnos con la máquina se haga realidad. Esta línea de pensamiento, junto a otras, es el sustento filosófico de las propuestas colonizadoras de Elon Musk sobre el planeta Marte.
En una de las publicaciones que hizo este dúo de filósofos de Oxford se justificó, mediante procesos lógicos, el sacrificio de buena parte de la humanidad en pos de un futuro para un número reducido de sobrevivientes. “En esto se basa esta corriente radical del altruismo eficaz, una escuela de intelectuales financiada por grandes millonarios para resolver ética y racionalmente las grandes conjeturas a las que se enfrenta la humanidad”, resume la investigación de El Confidencial.
Estos escenarios proyectados, que se veían lejanos a principios de la década, hoy parecen estar a un paso de distancia. Más aún con la advertencia de Jacob Coxon, que denunció que ni Anthropic ni Open IA actúan de manera responsable y que esos sistemas podrían exterminar a la humanidad. Quizás esa “muerte” de la que habla el investigador sea un paso previo y necesario, para el transhumanismo en el que piensa esta corriente filosófica.