Aleteia logoAleteia logoAleteia
martes 05 marzo |
San Juan José de la Cruz
Aleteia logo
Desde Roma
separateurCreated with Sketch.

El Papa insta a legislar sobre la inteligencia artificial

fingerprints-smartphone-security-artificial-intelligence

Sitthiphong | Shutterstock

I.Media - publicado el 14/12/23

En su mensaje para la Jornada Mundial de la Paz, el Papa Francisco expresó su preocupación por las repercusiones que puede tener el progreso tecnológico

El futuro de Aleteia depende de la generosidad de sus lectores.
Para garantizar que Aleteia siga siendo y para difundir la esperanza,
haz una donación a Aleteia

DONE AHORA

En su mensaje para la Jornada Mundial de la Paz, que se celebrará el 1 de enero de 2024, el Papa Francisco insta a la comunidad internacional a «adoptar un tratado internacional vinculante» para regular el desarrollo y el uso de la inteligencia artificial (IA). En un texto publicado el 14 de diciembre de 2023, el Papa expresa ampliamente su preocupación por las peligrosas repercusiones del progreso tecnológico en la humanidad, en particular en términos de discriminación, desigualdad y condicionamiento.

En su saludo de Año Nuevo a los católicos y a los líderes mundiales, el 266º Papa se alegra del «progreso de la ciencia», reconociendo los «extraordinarios avances» que han permitido aliviar «innumerables males que afligían la vida humana». No hay «rechazo tecnofóbico» por parte del Pontífice argentino, subrayó el experto francés Mathieu Guillermin, profesor de la Universidad Católica de Lyon, al presentar el mensaje en una rueda de prensa en el Vaticano.

Pero al Pontífice, que pronto cumplirá 87 años, le preocupan las consecuencias de la «inmensa expansión» de la inteligencia artificial y sus algoritmos. Para la Santa Sede, esta realidad representa «quizá la apuesta más arriesgada de nuestro futuro», dijo el cardenal Michael Czerny, Prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral.

El Papa teme especialmente la ausencia de mediación humana en los sistemas de IA utilizados para determinar «la fiabilidad de un solicitante de préstamo bancario, la idoneidad de una persona para un puesto de trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social». Teme «formas de prejuicio y discriminación», y «errores sistémicos» que den lugar a «formas reales de desigualdad social».

En este texto de siete páginas publicado en ocho idiomas, el jefe de la Iglesia católica insta especialmente a la comunidad internacional a trabajar «para adoptar un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas». También pide la creación de organismos «para examinar las cuestiones éticas emergentes» y proteger los derechos de los usuarios.

El Comité sobre Inteligencia Artificial (CAI) del Consejo de Europa estudia actualmente cómo regular la IA. Las Naciones Unidas acaban de anunciar la creación de un comité de alto nivel dedicado a la IA.

Para el Papa, se trata de «no dejar [la IA] en manos de los propietarios y desarrolladores», explicó el cardenal Czerny. Porque, escribe Francisco, «las innovaciones tecnológicas no son ajenas a la realidad ni neutrales», y no podemos «suponer a priori» que serán «beneficiosas».

Amenazas en todos los ámbitos

Mientras las nuevas herramientas ya están cambiando «innumerables […] aspectos de la vida cotidiana», los desafíos son «técnicos, pero también antropológicos, educativos, sociales y políticos», insistió el Pontífice argentino. Alertó contra el uso de las «huellas digitales» que deja cada internauta para «controlar los hábitos mentales y relacionales de las personas, a menudo sin su conocimiento, con fines comerciales o políticos, limitando el ejercicio consciente de su libertad de elección».

Ante el desarrollo tecnológico, teme «campañas de desinformación», «interferencias en los procesos electorales, la instauración de una sociedad que vigila y controla a los individuos, la exclusión digital y la exacerbación de un individualismo cada vez más desconectado de la comunidad».

Refiriéndose a las «máquinas que aprenden por sí mismas» – machine learning, como el famoso ChatGPT – el Papa advierte que «la capacidad de ciertos dispositivos de producir textos sintáctica y semánticamente coherentes […] no es garantía de fiabilidad». «No todo se puede predecir, no todo se puede calcular», insiste también.

Garantizar la supervisión de las armas autónomas

«Es la inteligencia artificial con fines bélicos lo que más nos asusta», declaró a la prensa el cardenal Czerny. «El mundo no necesita realmente que las nuevas tecnologías contribuyan al desarrollo injusto del mercado y del comercio de armas», se lee en el mensaje.

El Papa Francisco pide «una supervisión humana adecuada, significativa y coherente de los sistemas autónomos de armas letales», que «nunca pueden ser sujetos moralmente responsables» y que incluso corren el riesgo de facilitar «atentados terroristas».

Sentido de los límites y educación crítica

YAKOBCHUK-VIACHESLAV.jpg

En el ámbito de la IA, el Papa Francisco pide «una adecuada formación en la responsabilidad». En particular, insta a educar a los jóvenes, «impregnados por la tecnología», a pensar «críticamente».

El sucesor de Pedro lamenta que la mentalidad actual descuide «el sentido de los límites». Y advierte: «El ser humano, […] creyendo superar todos los límites gracias a la tecnología, corre el riesgo, en su obsesión por querer controlarlo todo, de perder el control de sí mismo; en su búsqueda de la libertad absoluta, de caer en la espiral de una dictadura tecnológica».

Para no dejar que los algoritmos «determinen la forma en que entendemos los derechos humanos», o «dejen de lado los valores esenciales de la compasión, la misericordia y el perdón», pide «un desarrollo ético de los algoritmos – algor-ética». Para el Papa, los valores deben guiar la investigación y todas «las fases de experimentación, diseño, producción, distribución y comercialización».

Tags:
inteligencia artificialpapa francisco
Apoye Aleteia

Usted está leyendo este artículo gracias a la generosidad suya o de otros muchos lectores como usted que hacen posible este maravilloso proyecto de evangelización, que se llama Aleteia.  Le presentamos Aleteia en números para darle una idea.

  • 20 millones de lectores en todo el mundo leen Aletiea.org cada día.
  • Aleteia se publica a diario en siete idiomas: Inglés, Francés, Italiano, Español, Portugués, Polaco, y Esloveno
  • Cada mes, nuestros lectores leen más de 45 millones de páginas.
  • Casi 4 millones de personas siguen las páginas de Aleteia en las redes sociales.
  • 600 mil personas reciben diariamente nuestra newsletter.
  • Cada mes publicamos 2.450 artículos y unos 40 vídeos.
  • Todo este trabajo es realizado por 60 personas a tiempo completo y unos 400 colaboradores (escritores, periodistas, traductores, fotógrafos…).

Como usted puede imaginar, detrás de estos números se esconde un esfuerzo muy grande. Necesitamos su apoyo para seguir ofreciendo este servicio de evangelización para cada persona, sin importar el país en el que viven o el dinero que tienen. Ofrecer su contribución, por más pequeña que sea, lleva solo un minuto.

ES_NEW.gif
Oración del día
Hoy celebramos a...




Top 10
Ver más
Newsletter
Recibe gratis Aleteia.