El papa León XIV presentó su primera encíclica y pidió que la IA "sirva a la humanidad, no al poder de pocos"

El papa León XIV presentó este lunes en el Vaticano su primera encíclica denominada Magnifica Humanitas, en la que reflexionó sobre la doctrina social de la Iglesia en la era de la inteligencia artificial. En la misma llamó a custodiar "una magnifica humanidad habitada por Dios", promoviendo la verdad, la dignidad del trabajo, la justicia social y la paz.

La presentación se dio con motivo del 135° aniversario de la Rerum novarum, la primera encíclica sobre la doctrina social de la Iglesia Católica firmada por León XIII el 15 de mayo de 1891. En el nuevo documento, el papa aseguró que en plena era digital  es necesario desarmar la IA y superar la teoría de la "guerra justa", relanzando el diálogo y el multilateralismo.

El máximo líder de la Iglesia Católica aseguró que ahora esta teoría está "desfasada", al afirmar que la fuerza militar sólo puede usarse para la “autodefensa en el sentido más estricto”. También aseguró que la “prueba de fuego” para la justicia social es el trato a los migrantes y refugiados y ofreció una disculpa por la participación de la Iglesia en la esclavitud y el retraso en denunciar ese flagelo.

Además, advirtió que el uso de la “fuerza, la violencia y las armas” en última instancia “tiene consecuencias desastrosas" para las poblaciones civiles. “La construcción de un mundo en estado de conflicto perpetuo es un mal y debe ser nombrado como tal”, escribe el papa, y añade que “la humanidad posee herramientas mucho más eficaces y capaces para promover la vida humana y resolver conflictos, como el diálogo, la diplomacia y el perdón”.

De qué trata Magnifica Humanitas

"La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos", son las primeras palabras del documento dividido en cinco capítulos. No se trata de un tratado técnico ni una condena a la tecnología.

Según el escrito, "cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad. Pero en cada época se cierne el riesgo de construir un mundo inhumano y más injusto. Allí donde la humanidad corre el peligro de perder su rostro, nosotros, los cristianos, alzamos los ojos hacia el Dios que se hizo carne".

En los últimos años se ha hecho evidente cuán rápida y profundamente la digitalización, la inteligencia artificial (IA) y la robótica están transformando nuestro mundo. "A lo largo de los siglos, el desarrollo tecnológico ha contribuido a una mejora significativa de las condiciones de vida de la humanidad; al mismo tiempo, cada etapa del progreso también ha puesto de manifiesto el lado ambiguo de instrumentos capaces de causar daño cuando no se orientan hacia el bien".

En este sentido, el papa advirtió que la humanidad se encuentra en una situación nueva en la que "el poder y la omnipresencia de las tecnologías emergentes se entrelazan con el tejido de la vida cotidiana, moldean los procesos de toma de decisiones e inciden profundamente en el imaginario colectivo". Por lo tanto, "es necesario adoptar instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico".

Citando a su predecesor, el Papa Francisco, León XIV invitó a preguntarse "con realismo" quién detenta hoy ese poder y "hacia qué fines lo orienta". 

"No podemos ignorar que la energía nuclear, la biotecnología, la informática, el conocimiento de nuestro propio ADN y otras capacidades que hemos adquirido […] dan a quienes tienen el conocimiento, y sobre todo el poder económico para explotarlo, un dominio impresionante sobre el conjunto de la humanidad y del mundo entero".

Recordó que en el pasado eran los estados los que impulsaban y orientaban la innovación, pero hoy "los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente 'privado', y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común".

Desarmar la IA

En el tercer capítulo de su encíclica, "Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA", el papa advierte sobre el "paradigma tecnocrático", que ya había denunciado Francisco, por el cual toda elección viene dictada exclusivamente por parámetros de eficiencia y beneficio.

Por el contrario, "la tecnología más potente no es necesariamente la mejor: la IA puede imitar y simular al hombre, pero no posee conciencia moral, empatía, capacidad afectiva, relacional ni espiritual. Por lo tanto, es necesario abordar la IA con sobriedad y vigilancia, manteniendo la claridad sobre las responsabilidades de todas sus etapas (accountability) y apostando por políticas y marcos jurídicos adecuados, una supervisión independiente y la educación de los usuarios. Sobre todo, se necesita un código ético sometido a criterios de justicia social compartida, porque «no sirve una IA más moral si esa moral la deciden unos pocos. Sin dejar de lado el impacto ambiental de las nuevas tecnologías, que requieren grandes cantidades de energía y agua, afectando a las emisiones de dióxido de carbono y dañando la Creación".

León XIV insiste en que hay que "desarmar la IA" para "sustraerla de la lógica de la competencia militar, económica y cognitiva; para romper la equivalencia entre poder técnico y derecho a gobernar; para sustraerla de los monopolios e impedir que domine al ser humano. Esta tarea es ética, técnica y ecológica porque la IA ya es el entorno en el que estamos inmersos y el poder con el que debemos contar".