Iglesia vs poder tecnocrático, una disputa política estratégica

La encíclica “Magnifica humanitas” saca a la Iglesia Católica del terreno espiritual y la reconoce con los pies en el barro de la confrontación política. Fiel al estilo de Francisco, el Papa León XIV deja de lado el Palacio Vaticano y la tradición milenaria para plantear una batalla del presente más urgente. A lo largo de un texto de casi 200 páginas, el Papa nacido en Chicago recupera la Doctrina Social de la Iglesia para definir la disputa estratégica que determina la vida de las mayorías, en tiempos de algoritmos, Inteligencia Artificial y apropiación masiva de datos por parte de corporaciones transnacionales.

Dice León XIV: la tecnología no es neutral porque adopta el rostro de quienes la conciben, financian, regulan y utilizan. Enseguida se pregunta “¿qué estamos construyendo?”. La urgencia está dada porque la carrera se corre desde atrás. Mientras el desarrollo tecnológico transforma rápidamente los lenguajes, las relaciones, las instituciones y las formas de poder, dice “Magnífica humanitas”, la Doctrina Social de la Iglesia y los creyentes tienen que intervenir en el presente. Que el jefe de la Iglesia global haya hecho la presentación de la nueva encíclica se haya hecho junto al cofundador de Anthropic, Christopher Olah, da cuenta de la plasticidad de la institución más antigua de Occidente. 

Justo cuando Peter Thiel está instalado en Argentina y el gobierno de Javier Milei lanza su proyecto de Gemelo Digital, León XIV cita a Francisco. Recuerda que en la encíclica “Laudato si” su antecesor denunció la esencia del paradigma tecnocrático: la tendencia a dejar que la lógica de la eficiencia, el control y el beneficio rijan por sí solas las decisiones personales, sociales y económicas.

Mientras Thiel, Elon Musk y Jeff Bezos gobiernan con lógica algorítmica, la jerarquía católica impugna el presente de un poder descontrolado y reclama regulaciones y responsabilidades políticas. “Magnifica Humanitas” destaca que hoy el control de las plataformas, la infraestructura, los datos y la capacidad informática no es prerrogativa de los Estados, sino de grandes actores económicos y tecnológicos que establecen las condiciones de acceso, las reglas de visibilidad y las posibilidades mismas de participación. “Cuando un poder tan inmenso se concentra en pocas manos, tiende a volverse opaco y a escapar al control público, aumentando así el riesgo de un desarrollo distorsionado que genere nuevas dependencias, exclusiones, manipulaciones y desigualdades”, dice.

León XIV repone el debate sobre el capitalismo de vigilancia en el plano de la política y dice que el uso de la IA nunca es una cuestión puramente técnica: cuando interviene en procesos que afectan la vida de las personas, afecta también los derechos, las oportunidades, la reputación y la libertad. Decisiones delicadas que afectan el empleo, el crédito, el acceso a los servicios y la reputación de las personas corren el riesgo de ser confiadas por completo a sistemas automatizados, advierte. 

“Puede haber usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad , pero también un peligro mayor cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan los estereotipos o las posiciones ideológicas de quienes los diseñaron y entrenaron”, dice la enciclica. Esa es una de las palabras claves: el Papa advierte que las creaciones del poder tecnocrático no son neutrales y llama a los creyentes a abandonar su propia neutralidad para librar una confrontación más eficaz. La escena tiene similitudes con lo que sucedió hace casi tres décadas, cuando Juan Pablo II se dio cuenta de que el capitalismo que él mismo había apoyado en la guerra fría había ido demasiado lejos y viajó a Cuba para encontrarse con Fidel Castro. Entonces, la disputa estratégica de la Iglesia era con el capitalismo salvaje que estaba a punto de alumbrar una ola de gobiernos progresistas en América Latina. Ahora León XIV envía un mensaje demoledor contra el poder tecnocrático y llama a una acción urgente. Tiene a su favor el monumental legado de Francisco, el Papa que diseñó un poder preparado para sobrevivirlo y en una de sus últimas apariciones planteó críticas durísimas al poder de Silicon Valley. 

Hay momentos en la historia en los que la Iglesia percibe que su propio poder está en riesgo. Este es uno de ellos. Lejos de cualquier eufemismo, algo en lo que también puede inscribirse el mensaje de Jorge García Cuerva en el Tedeum del 25 de mayo, el documento de la Iglesia plantea la necesidad de fijar regulaciones a las corporaciones, reclama que la dirigencia política asuma su responsabilidad y pide rendición de cuentas a los magnates tecnológicos. “Confiarle a un algoritmo el poder de decidir quién lo merece y quién no, sin que nadie más asuma la responsabilidad de la decisión, implica encomendarle la tarea de redefinir los límites de la posibilidad humana. Lo que falta en este proceso no es solo empatía por los excluidos, que puede imitarse artificialmente, sino responsabilidad política, pues la exclusión de los vulnerables se disfraza de neutralidad y objetividad, ante las cuales es imposible protestar”.

En Magnifica humanitas, León XIV desnaturaliza el dominio del paradigma tecnocrático. Afirma que todo artefacto técnico hace elecciones y define prioridades: qué mide, qué ignora, qué optimiza y cómo clasifica a las personas y las situaciones. Un sistema que se concibe o se utiliza para tratar a algunas vidas como menos valiosas, dice, contradice la dignidad inalienable de la persona. Por eso, sostiene, la rendición de cuentas se vuelve crucial: la capacidad de identificar al responsable de las decisiones, motivarlos, supervisarlos y, cuando sea necesario, cuestionarlos y remediar el daño que generen.

La encíclica del sucesor de Francisco define la gran asimetría de época: el desequilibrio entre la velocidad de la tecnología y la respuesta que se puede dar a partir de la concienciación y las instituciones capaces de regular sus efectos. Por eso, habla de la necesidad de crear marcos jurídicos adecuados, supervisión independiente, formación de usuarios y demanda una dirigencia política que no eluda su responsabilidad. De lo contrario, la lógica tecnocrática se presentará como necesaria e inevitable, imponiendo la ley de los dueños de los datos, la infraestructura y la capacidad de procesamiento. 

Para León XIV, la propiedad de los datos no puede confiarse únicamente a particulares, sino que debe estar regulada. “En un mundo donde unos pocos individuos concentran datos, capital computacional y capacidad regulatoria, hablar del bien común implica desenmascarar esta nueva asimetría epistémica, económica y política, y nombrar los nuevos monopolios de la IA”, dice. Por eso llama a desarmar la IA. Liberarla de la lógica de la competencia armada, que hoy es también económica y cognitiva. Una carrera donde el algoritmo de mejor rendimiento y la base de datos más grande buscan consolidar una ventaja geopolítica o comercial sobre los demás. “Desarmar significa romper esta equivalencia entre poder técnico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedir que domine a la humanidad. Significa liberarla de los monopolios, hacerla debatible, cuestionable y, por lo tanto, habitable, reintegrándola a la pluralidad de culturas y formas de vida humanas. La IA ya es el entorno en el que estamos inmersos y un poder con el que debemos lidiar. Por lo tanto, no basta con regularla: hay que desarmarla y hacerla habitable”, dice.