En una larga reflexión sobre la inteligencia artificial y sus efectos en la comunicación y la sociedad, el Papa Francisco advierte contra el “espectro de una nueva esclavitud” y la “posibilidad de que unos pocos condicionen el pensamiento de todos”.
El 1 de enero, en su mensaje para la Jornada Mundial de la Paz, el Pontífice ya había abordado el tema de la inteligencia artificial, instando a los gobiernos a regular su uso a nivel internacional mediante un tratado. Al tiempo que renueva este llamamiento, afirma que “la regulación no es suficiente” en un nuevo texto de cuatro páginas, publicado en la solemnidad de san Francisco de Sales, patrón de los periodistas y comunicadores.
En esta meditación filosófica, el Papa constata que la “acelerada difusión” de los inventos ligados a la inteligencia artificial está cambiando radicalmente la información y la comunicación y, a través de ellas, “algunos de los fundamentos de la convivencia civil”. Insiste en que este cambio “afecta a todos”, en la medida en que concierne al futuro de la humanidad y a su propia naturaleza.
Sin embargo, el Pontífice advierte contra los “efectos paralizantes” que podría tener una lectura catastrofista del fenómeno. Por ello, nos exhorta a no oponernos “rígidamente a lo nuevo”, sino a “orientar en la buena dirección la mutación cultural en curso”.
Nuestra época, dice el Papa Francisco, es “rica en tecnología y pobre en humanidad”, pero la reflexión sobre la inteligencia artificial debe partir “del corazón humano”. A diferencia de las máquinas, esta “sabiduría del corazón”, inspirada por “el Espíritu Santo”, permite “entrelazar el todo y las partes, las decisiones y las consecuencias, las alturas y las fragilidades, el pasado y el futuro, el yo y el nosotros”, insiste.
El Pontífice reconoce la superioridad de las tecnologías de aprendizaje automático para memorizar y procesar datos, “pero corresponde al hombre, y sólo al hombre, descifrar su significado”, asegura. Y, advierte, “no se trata de exigir que las máquinas parezcan humanas”.
“Los algoritmos no son neutrales”
El Papa advierte contra la “hipnosis” del hombre, criticando su “delirio de omnipotencia” cuando intenta “superar su vulnerabilidad por todos los medios posibles”. Esta “tentación original de convertirse en Dios sin Dios”, que el Papa relaciona con el relato del Génesis, consiste en “querer conquistar con nuestras propias fuerzas lo que, en cambio, debería ser acogido como un don de Dios”.
“Los algoritmos no son neutros”, insiste el sucesor de Pedro, que considera importante poder “comprenderlos, aprehenderlos y regularlos” para no correr el riesgo de verlos caer “en manos equivocadas”. En particular, advierte del riesgo de “contaminación cognitiva” que la inteligencia artificial puede provocar en el ámbito de la comunicación y la prensa.
Estas tecnologías permiten a las personas “comunicarse en lenguas desconocidas para ellas”, pero también pueden facilitar la desinformación con “noticias falsas”, o el “hipertramado” de material sonoro o visual. El Papa confiesa haber sido objeto de estas imágenes engañosas – deep fakes – generadas por la IA.
El Papa también advierte contra el fenómeno de las “cámaras de eco”, un mecanismo que atrapa a las personas en un “pantano anónimo, al servicio de los intereses del mercado o del poder”, dándoles acceso únicamente a información estereotipada. “Es inaceptable que el uso de la inteligencia artificial conduzca al pensamiento anónimo, al cotejo de datos no certificados y al desempoderamiento editorial colectivo”, insiste. Advierte de que no reaccionar ante estas realidades plantea el “espectro de una nueva esclavitud” al abrir la “posibilidad de que unos pocos condicionen el pensamiento de todos”.
La información es relación
El Papa insiste en que la información no debe desvincularse de su dimensión “relacional”, que “implica el cuerpo, el ser en la realidad” y debe permitir transmitir no solo datos, sino también “experiencias”. Contrasta los efectos perversos de la “guerra paralela” de desinformación emprendida por ciertas entidades con el “reportaje de guerra” que permite “tocar el sufrimiento” de las víctimas de los conflictos. También rindió homenaje a los numerosos periodistas muertos o heridos sobre el terreno.
Sin ofrecer respuestas definitivas, el Papa concluye su texto enumerando una serie de grandes cuestiones a las que la humanidad debe responder en materia de inteligencia artificial: la protección de la profesionalidad de las profesiones de la información, la responsabilización de las empresas que desarrollan plataformas por lo que difunden, la sostenibilidad ecológica de esta tecnología “extremadamente intensiva en energía” y su difusión en los países en desarrollo. El Papa pide también más transparencia sobre los algoritmos utilizados por las plataformas y los motores de búsqueda (en particular sobre cómo se indexan y desindexan los datos), sobre los procesos de información y contra el anonimato.
Responder a estas preguntas, asegura el Papa, podría permitir “alinear incluso los sistemas de inteligencia artificial con una comunicación plenamente humana”. “Corresponde al ser humano decidir si quiere convertirse en alimento de algoritmos o alimentar su corazón con la libertad, sin la cual no hay crecimiento en la sabiduría”, concluye.
¿Qué más han dicho los papas a los comunicadores?
Hoy celebramos a...