¿Qué contiene la encíclica “Magnifica humanitas” de León XIV?

El líder de la Iglesia Católica insta a la gente a no demonizar ni idolatrar las herramientas digitales. Advierte que la IA, que no es ni ángel ni demonio, "no es neutral", y denuncia la compleja red de sus poderosos creadores, los monopolios concentrados en manos de unos pocos y las "oscuras intenciones" que podrían ocultarse en los algoritmos. Aboga por marcos legales y educación en alfabetización digital, y ofrece lo que podría servir como manual para el "uso adecuado de la IA".

El Papa explica que sigue los pasos de León XIII, quien impulsó la reflexión de la Iglesia sobre las "novedades" de la sociedad de su tiempo e inició lo que más tarde se convertiría en la "Doctrina Social" de la Iglesia. Siguiendo su ejemplo, propone afrontar un nuevo "punto de inflexión histórico": el de la sociedad actual, donde "el poder y la omnipresencia de las tecnologías emergentes se entretejen en el tejido de la vida cotidiana, dan forma a los procesos de toma de decisiones y marcan profundamente el imaginario colectivo", lo que él denomina "la era de la Inteligencia Artificial".

Para el pontífice, esta "fase de rápida transición", cuyos acontecimientos "aún no pueden preverse del todo", plantea "cuestiones que ya no pueden eludirse", en particular en lo que respecta al "rostro sin precedentes" del "poder tecnológico". De este modo, supone un desafío "desde dentro de las categorías de la Doctrina Social y exige su mayor desarrollo".

Por lo tanto, León XIV explica que la Iglesia "no puede considerarse ajena a la dinámica que da forma a la sociedad", sin pretender, sin embargo, "asumir las funciones que corresponden al Estado" ni proponer un "repertorio de soluciones técnicas" o un "modelo económico o político al que oponerse".

Si bien niega cualquier "injerencia", insiste en que la Doctrina Social también representa un "examen de conciencia para la Iglesia". Aboga por una "cultura de transparencia, rendición de cuentas y evaluación", siguiendo el Sínodo sobre la Sinodalidad, el importante proceso impulsado por Francisco para lograr una Iglesia menos clerical y más inclusiva y participativa. "Vivir la justicia en la Iglesia significa purificar las relaciones y estructuras eclesiales de las distorsiones que generan desigualdad y opacidad", insiste, y hace un llamado a escuchar a las víctimas de "abuso espiritual, económico, institucional, sexual, de poder y de conciencia".

En Magnifica Humanitas, León XIV examina los males de la sociedad y ofrece un diagnóstico lúcido. Le preocupan especialmente las dinámicas de poder que se desarrollan en su seno. Para ilustrar su punto, el Papa utiliza con frecuencia la imagen de la Torre de Babel, del Génesis. Este proyecto bíblico es "una obra concebida sin referencia a Dios, sostenida por una uniformidad que elimina la diversidad y, en lugar de la comunión, opta por la homogeneización", explica el pontífice en la introducción.

"Evitemos, pues, el 'síndrome de Babel'", instó, afirmando que conduce a "la idolatría del lucro que sacrifica a los más débiles, la uniformidad que borra las diferencias, la pretensión de un único lenguaje […] capaz de traducir todo […] en datos y rendimiento". "Una tentación antigua y siempre renovada", advirtió el papa número 267.

Haciéndose eco de una reflexión ya desarrollada por su predecesor, el Papa Francisco, en Laudato si' , León XIV expresó su preocupación por "la creciente consolidación de un paradigma tecnocrático". Esta lógica de "eficiencia, control y beneficio" acaba por gobernar "por sí sola las decisiones personales, sociales y económicas", observó. La tecnología ya no es "un simple instrumento", sino que tiende a convertirse en "un criterio […] que reduce la creación a un objeto de explotación y a las personas a meros engranajes de un sistema que debe ser cada vez más eficiente".

Partiendo de esta lógica, el transhumanismo y el posthumanismo son temas que preocupan al papa estadounidense. Estos movimientos, que proponen "una visión futurista del 'humano mejorado' o del 'híbrido humano' con la máquina", "colonizan el imaginario colectivo". Aunque sus hipótesis sean "en gran medida especulativas", su influencia modifica "el imaginario colectivo" y, por lo tanto, orienta las decisiones sociales, económicas y políticas, observa el obispo de Roma.

En la sociedad moderna, ya no son los Estados quienes gobiernan el mundo, sino más bien "actores privados, a menudo transnacionales, con recursos y capacidad de intervención superiores a los de muchos gobiernos", explica el Papa. Esta nueva gobernanza global es "aún más difícil de comprender, regular y orientar hacia el bien común", observa.

Denuncia, en particular, la aplicación de una lógica "especialmente insidiosa" que sugiere que "cada persona debe ganarse o justificar su propio valor". Desde esta perspectiva, el individuo termina siendo considerado un "recurso a optimizar". Extendiendo esta reflexión al tema del desempleo, León XIV subraya que "la búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo". Así, reitera que "la persona humana es un fin en sí misma, no un medio para un fin".

Detrás del nebuloso mundo de los algoritmos, el Papa expresa su preocupación por la recopilación de datos. La considera una nueva forma de colonialismo que "se apropia de datos, transformando vidas personales en información explotable", denuncia. León XIV teme que "nuevos elementos de tierras raras" sean sometidos a una "lógica de extracción" que afecta, en esta ocasión, a "historias clínicas, perfiles epidemiológicos, mapas genéticos y datos demográficos".

Controlar estos datos ofrece la posibilidad de "moldear necesidades y mercados", explica el Papa. Así, "transformar el conocimiento compartido en un bien común, y no en una herramienta de dominación", es descrito por el pontífice como "uno de los desafíos morales más urgentes de nuestro tiempo".

León XIV aprovechó también esta oportunidad para denunciar las "nuevas formas de esclavitud" creadas por las infraestructuras digitales. La lucha contra estas constituye una "prueba decisiva", escribió. "Sin esta reflexión ética y humanizadora, el creciente poder de los sistemas digitales corre el riesgo de conducirnos hacia nuevas atrocidades, no menos vergonzosas que las del pasado", advirtió el pontífice.

De paso, el Papa publicó una disculpa en nombre de la Iglesia sobre la esclavitud, reconociendo que "no podemos negar ni minimizar la demora con la que la Iglesia y la sociedad condenaron el flagelo de la esclavitud" y pidiendo "sinceramente perdón".

Más allá de la esclavitud moderna, lo que preocupa a León XIV es el papel de las nuevas tecnologías en la normalización de la guerra. Por ello, denuncia el establecimiento de una "cultura del poder" que "altera las relaciones y los comportamientos" y desemboca en la búsqueda de un "poder militar cada vez mayor". Su resultado, observa el pontífice estadounidense, es "una multipolaridad desordenada y conflictiva, donde prevalece la desconfianza hacia el otro".

También lamenta el desarrollo incesante de armas impulsadas por IA. Exige que el uso de la IA en el ámbito militar se someta a las más rigurosas restricciones éticas y afirma: "Es inaceptable confiar decisiones letales a sistemas artificiales". Además, declara: "No existe algoritmo capaz de hacer que la guerra sea moralmente aceptable".

A lo largo del texto, León XIV aboga por "promover una ecología de la comunicación" en la era de la IA. "Las herramientas que podrían fomentar el debate y la participación se utilizan a menudo para construir narrativas distorsionadas", observa. Por lo tanto, exige responsabilidad a quienes "controlan las plataformas digitales y los medios de comunicación", cuya capacidad de influencia es "extraordinaria".

En contra de cualquier visión utilitarista, el Papa afirma que la dignidad de la persona humana "no depende de las capacidades que uno posee, de su riqueza ni del rol que desempeña, ni de las decisiones correctas o incorrectas que toma, sino que es un don que los precede y los trasciende". Así, todo ser humano está dotado de dignidad "simplemente por el hecho de existir, de haber sido querido, creado y amado por Dios", insiste el jefe de la Iglesia Católica. "Ningún pecado, ningún fracaso, ninguna humillación, ninguna exclusión puede disminuir el profundo valor de una vida humana", asegura León XIV.

"¿Qué significa preservar la humanidad?", pregunta el pontífice, denunciando el callejón sin salida de una "visión antihumana, según la cual la plenitud de la vida consistiría en tener más, reducir la fragilidad, eliminar lo imprevisto, controlarlo todo".

Desde un punto de vista estadístico, el Papa aboga por cambios en los métodos de cálculo del PIB para incorporar dimensiones que hasta ahora se han tenido poco en cuenta, como "los efectos de las decisiones legislativas y reglamentarias sobre la dignidad del trabajo, la prosperidad compartida, la reducción de las desigualdades y la protección del medio ambiente".

Asimismo, insta a la aplicación de los principios de transparencia, rendición de cuentas, inclusión y equidad a la IA, especialmente "cuando los datos y los algoritmos influyen en la asignación de crédito, la selección de personal y el acceso a servicios u oportunidades".

En el plano político, el Papa instó a corregir los desequilibrios generados por la concentración de riqueza y poder, afirmando que "estos criterios no constituyen un obstáculo para la innovación, sino que, de hecho, la hacen viable".

El Papa denuncia "los nuevos monopolios de la IA" y subraya la necesidad de "proteger la capacidad de las comunidades para elegir y corregir, sin relegar su intervención a un mero papel de supervisión, una vez que se hayan establecido estándares en otros ámbitos". Destaca la importancia de "reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos". "La justicia social no es solo un objetivo que debe protegerse tras la adopción de tecnologías, sino un requisito previo que debe implementarse desde su concepción misma", insiste.

Por lo tanto, la regulación debe aplicarse a las "nuevas formas de propiedad" surgidas de la revolución tecnológica en curso: "patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos", especifica León XIV. El principio de "subsidiariedad digital" debería permitir que estas herramientas se orienten "hacia el bien común mediante la transparencia, la responsabilidad y formas reales de participación", explica.

El Papa también nos insta a "desarmar la IA", es decir, a desvincularla de la lógica de la competencia armada, que ya no es solo militar, sino también económica y cognitiva. Por lo tanto, nos anima a "romper esta equivalencia entre poder tecnológico y derecho a gobernar". El objetivo no es "renunciar a la tecnología", sino "impedir que domine a la humanidad".

Reconociendo que "la innovación tecnológica puede ser, en cierto modo, una forma humana de participación en el acto divino de la creación", el Papa señala que "los desarrolladores tienen, por lo tanto, una responsabilidad ética y espiritual especial, porque cada elección de diseño expresa una visión de la humanidad".

"Debemos recordar que los seres humanos no prosperan a pesar de las limitaciones, sino a menudo gracias a ellas", explica León XIV. Es ilusorio y perjudicial querer eliminar las limitaciones humanas, afirma, señalando que es cuando los seres humanos "experimentan las limitaciones —la vulnerabilidad, el dolor, el fracaso— que pueden reconocer su propia dignidad y la de los demás como inviolables".

En el contexto actual, el reto consiste en "avanzar en la tecnología sin provocar un retroceso en el corazón". "La humanidad, magnífica y herida, no debe ser ni reemplazada ni superada", advierte el sucesor de Pedro, haciendo hincapié en que la expresión "más que humano" —es decir, la idea de autotrascendencia— no debe centrarse en la dimensión técnica, sino en una dimensión de apertura espiritual. Los seres humanos "están llamados a trascenderse a sí mismos: no a huir de la realidad ni por desprecio a las limitaciones, sino a florecer en el amor".

"No basta con que la IA nos haga más eficientes o más conectados; debe servir para construir esta familia humana universal", señaló el Papa. Recordando la dimensión de la Encarnación, esencial en el cristianismo, el Papa concluyó su encíclica con una meditación sobre la oración del Magníficat, es decir, el himno de alabanza a la Virgen María a quien el ángel anunció que daría a luz al Hijo de Dios.

"En la fidelidad humilde y cotidiana, la era de la IA puede convertirse también en un camino a través del cual el Espíritu propicia la maduración de la civilización del amor en nuestras vidas", afirma León XIV. Y señala que "el Señor sigue renovando todas las cosas y mantiene abierta, para cada época, la posibilidad de convertirse en historia de salvación a la luz de la Encarnación".