Inteligencia artificial: en una nueva nota, el Vaticano advierte del riesgo de idolatría

"La Iglesia alienta el progreso en la ciencia, la tecnología, las artes y todo esfuerzo humano", pero subraya la importancia de un "uso responsable de la racionalidad y la capacidad técnica", según la nota Antiqua et Nova sobre la relación entre la inteligencia artificial (IA) y la inteligencia humana, publicada conjuntamente el 28 de enero de 2025 por el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación.

Este documento de 35 páginas -publicado por el momento solo en italiano, español e inglés- se basa en gran medida en los numerosos discursos del Papa Francisco sobre el tema. Ofrece un resumen del pensamiento de la Iglesia católica sobre este tema cada vez más central en diversos ámbitos de la vida pública, desde la educación en los medios de comunicación hasta la salud, pasando por cuestiones de defensa y relaciones internacionales.

Refiriéndose al trabajo de ciertos científicos que creen que la IA "podría alcanzar o superar la inteligencia humana" y conducir a un progreso "más allá de toda imaginación", la nota advierte que "la pretensión de sustituir a Dios con una obra de las propias manos es idolatría", haciéndose eco de una tentación tradicional contra la que los relatos bíblicos advierten a la humanidad.

"No debemos olvidar que la IA es solo un pálido reflejo de la humanidad, ya que es producida por mentes humanas, formada a partir de material producido por humanos, predispuesta a estímulos humanos y sostenida por el trabajo humano", lo reiteran con firmeza los cardenales Víctor Manuel Fernández, Prefecto del Dicasterio para la Doctrina de la Fe, y José Tolentino de Mendonça, Prefecto del Dicasterio para la Educación y la Cultura, en una nota aprobada por el Papa Francisco el 14 de enero.

"No puede tener la mayor parte de las capacidades propias de la vida humana, y además es falible. En consecuencia, al buscar en ella un 'Otro' mayor con quien compartir su existencia y responsabilidad, la humanidad corre el riesgo de crear un sustituto de Dios", advierte el Vaticano.

"Esta nueva situación está llevando a la humanidad a cuestionarse su propia identidad y su propio papel en el mundo", afirma el documento. Las "implicaciones antropológicas y éticas" de la inteligencia artificial son, por tanto, el núcleo de este documento, dirigido en primer lugar a los educadores, pero que también pretende ser accesible a un público lo más amplio posible, con el fin de "contribuir positivamente al discernimiento sobre la IA".

Siguiendo la evolución de estas tecnologías desde la aparición del concepto en los años 50, el documento vaticano traza una línea divisoria entre la "IA restringida", que puede ser una herramienta apreciablemente eficaz, en particular en el campo de la medicina, la previsión meteorológica o la traducción de idiomas, y la "IA general", que pretende superar la capacidad intelectual humana y corre el riesgo de hacer que la humanidad pierda el control de su destino.

La inteligencia humana no puede reducirse a la realización de tareas técnicas, sino que implica sensibilidad y subjetividad. Por el contrario, "la IA solo funciona realizando tareas, alcanzando objetivos o tomando decisiones basadas en datos cuantitativos y lógica informática". Este modelo puramente matemático no puede incorporar los matices y la complejidad de la vida humana.

"No todas las innovaciones tecnológicas representan en sí mismas un auténtico progreso", advierte la nota, apoyándose en la enseñanza de Francisco en su encíclica Laudato Si' (2015), así como en la de Benedicto XVI en Caritas in Veritate (2009).

"Preservar la capacidad humana de acción" es una prioridad en el uso ético de la IA. "Ejerciendo la prudencia, los individuos y las comunidades pueden discernir cómo utilizar la IA en beneficio de la humanidad, evitando al mismo tiempo aplicaciones que puedan socavar la dignidad humana o dañar el planeta", insiste la nota.

El Vaticano denuncia "el lenguaje utilizado por los profesionales, que tiende a antropomorfizar la IA y difumina así la línea entre lo que es humano y lo que es artificial".

El uso de estas herramientas corre el riesgo de fomentar un enfoque utilitarista de las relaciones humanas y de "llevar a los jóvenes a percibir a los profesores como dispensadores de información en lugar de como maestros que les guían y apoyan en su crecimiento intelectual y moral".

El Vaticano constata esta paradoja cada vez más extendida en el mercado laboral: "Mientras la IA promete aumentar la productividad asumiendo tareas ordinarias, los trabajadores a menudo se ven obligados a adaptarse a la velocidad y las exigencias de las máquinas". La IA debe ayudar al juicio humano, no sustituirlo, del mismo modo que nunca debe degradar la creatividad ni reducir a los trabajadores a meros "engranajes de la máquina", insiste la nota.

Del mismo modo, en el campo de la medicina, aunque la IA puede ayudar a desarrollar el acceso a determinados diagnósticos y tratamientos, la responsabilidad última debe seguir estando en manos de los profesionales médicos, que deben "ejercer toda su capacidad e inteligencia para tomar decisiones reflexionadas y éticamente motivadas con respecto a las personas que se les confían, respetando siempre la dignidad inviolable del paciente y el principio del consentimiento informado".

La nota aborda también la cuestión de las noticias falsas y los deepfakes producidos por la IA, que pueden inducir a error al público en general, como ocurrió durante la reciente campaña presidencial estadounidense. El Vaticano denuncia el "uso intencionado de la IA para la manipulación", que se produce "cuando un operador humano o una organización genera y difunde intencionadamente información, como imágenes, videos y sonidos falsificados, con el objetivo de engañar o perjudicar".

El documento reclama una "regulación cuidadosa", ya que tales prácticas corren el riesgo de "socavar progresivamente los cimientos de la sociedad", al alimentar "la polarización política y el descontento social".

En materia de seguridad y defensa, el documento también reitera la firme oposición de la Santa Sede a las armas autónomas. "Las atrocidades ya cometidas a lo largo de la historia de la humanidad bastan para suscitar una profunda preocupación por los posibles abusos de la IA", se preocupan los autores de la nota.

En los últimos años, la Santa Sede ha participado activamente en el debate sobre los posibles problemas éticos que podría plantear el espectacular auge de la IA. En 2020, la Pontificia Academia para la Vida lanzó el "Llamamiento de Roma por una Inteligencia Artificial Ética", un pacto firmado por empresas como IBM, Microsoft y Cisco.

A raíz de este texto, el Papa ha intervenido personalmente en varias ocasiones para defender un enfoque de la IA centrado en la dignidad humana, interviniendo en particular en la última cumbre del G7 organizada en Italia en junio de 2024.

Este nuevo documento de la Santa Sede llega pocos días después de que el presidente estadounidense, Donald Trump, anunciara el lanzamiento de "Stargate", un plan de 500 mil millones de dólares para apoyar el desarrollo de la IA en Estados Unidos. El proyecto incluye la construcción de centros de datos para impulsar la capacidad tecnológica y energética del procesamiento de datos de IA.

Francia, por su parte, organizará a partir del 6 de febrero en París una cumbre de acción sobre inteligencia artificial, con el objetivo de establecer un marco regulador multilateral para este sector, cuya rápida evolución coge por sorpresa a los ordenamientos jurídicos estatales. El presidente Emmanuel Macron abordó el tema con el Papa Francisco el 15 de diciembre, cuando se reunieron en Ajaccio, y es posible que el momento de la publicación de esta nota esté relacionado con la proximidad de esta cumbre.