Aleteia

¿Decidirá un robot si puedes recibir un riñón o el préstamo de tu casa?

ROBOT
Shutterstock | studiostoks
Comparte

“Los modelos y algoritmos predictivos” indican a los pobres “como inversiones arriesgadas y padres problemáticos”, se lee en un artículo reciente de la Civiltá Cattolica

La Inteligencia Artificial no es neutra. La sustitución del hombre para maximizar objetivos y tareas a través de las máquinas o la robótica abre un debate serio sobre el impacto de la Inteligencia Artificial y su incidencia en la vida de millones de personas, especialmente aquellas pobres y marginadas.

«Los pobres en un mundo dominado por los big data» es el tema clave presentado en el artículo, titulado: Intelligenza artificiale e giustizia sociale. Una sfida per la Chiesa, publicado recientemente por La Civiltá Cattolica (18 enero / 01 de febrero 2020 –  Año 171, pág. 121 – 131, Sumario  4070).

Antonio Spadaro S.J y Paul Twomey ponen el énfasis en las potencialidades de acompañar el cambio tecnológico actual con la sabiduría humanista de la Iglesia. Además porque la tecnología e ingeniería robótica y sus implicaciones son impredecibles y ambiguas, para el trabajo y el empleo, la manufactura, la agricultura y los sistemas alimentarios, los servicios de salud, la lucha contra la pobreza y la marginación.

Precisamente, la Iglesia busca ser profética en el tiempo del “big data”, es decir, en la época inquieta e incierta de esos datos de cuyo volumen, complejidad y velocidad, sin control, se está forjando el desarrollo de la “Inteligencia Artificial” y la New Economy.

Se trata, según Spadaro y Twomey, de comprender el fenómeno con el intento de canalizarlo desde la perspectiva de la “justicia social”. Existen desafíos y oportunidades, pero abordar la cuestión desde el “bien común” podría inclinar la balanza a favor de la dignidad de la persona y no de su manipulación.

Los big data, “datos necesarios para alimentar los motores de aprendizaje automático pueden llevar a una manipulación y a la explotación de los pobres: Los pobres del XXI siglo son, al mismo tiempo de quien no tiene dinero, los que, en un mundo basado sobre los datos y sobre las informaciones, aquellos ignorados, ingenuos y explotados”, se lee en el artículo.

“Los modelos y algoritmos predictivos” indican a los pobres “como inversiones arriesgadas y padres problemáticos”. Así, vigilancia, manipulación y control asoman como una amenaza en la vida de los pobres en la era de la IA, donde cada gesto o comportamiento se digitalizan en algoritmos sin alma y emociones con fines gubernativos, comerciales y públicos.

La influencia de esos sistemas avanzados de análisis podría hacer más complejo y menos humano la asistencia social, la defensa de la privacidad, la aplicación de leyes y el crédito para sectores ya marginados.

La Iglesia está ahí para ofrecer una reflexión sobre los aspectos éticos y espirituales, por ejemplo en el caso especifico de los códigos y los prejuicios a su alrededor. «El código de programación está escrito por seres humanos. Por lo tanto, su complejidad puede acentuar los defectos que inevitablemente acompañan a cualquier tarea que realizamos”.

Las preconcepciones y el sesgo en la escritura de los algoritmos son inevitables. Y pueden tener efectos muy negativos sobre los derechos individuales, la elección, la colocación de los trabajadores y la protección de los consumidores”.

La revista de los Jesuitas en Roma, cuyos textos son revisados por la Santa Sede antes de su publicación, propone una mirada realista respecto a los sesgos presentes y futuros.  “Sobre el código que viene escrito hoy se basarán los futuros sistemas de la IA por muchos años posteriores”.

De hecho, los investigadores han encontrado prejuicios de varios tipos presentes en los algoritmos, en el software adoptado para las admisiones en las universidades, en los recursos humanos, en las calificaciones de crédito, en los bancos, en los sistemas de manutención de niños, en los sistemas de seguridad social y en otros”.

En definitiva, “los algoritmos no son neutrales. La creciente dependencia de la economía socioeconómica de la IA da un enorme poder a quienes programan sus algoritmos”.

Riesgo de una mayor marginación de los vulnerables. Un análisis del impacto social de los grandes datos y de la IA muestra que su tendencia a tomar decisiones sobre la base de un perfil insuficiente y una retroalimentación limitada conduce a una mayor marginación de los pobres, los indigentes y los vulnerables”.

Por eso, la propuesta es que los futuros Bill Gates o Mark Zuckerberg y otros genios de la programación y de la informática, conciban las consecuencias éticas de sus negocios y descubrimientos para bien de la humanidad entera. Así como ha advertido el Papa Francisco en su discurso enviado al Foro Económico de Davos en enero de 2018.

Spadaro y Twomey afirman que la evolución de la IA contribuirá en gran medida a plasmar el siglo XXI.  “La Iglesia está llamada a escuchar, a reflexionar y a comprometerse proponiendo un marco ético espiritual a la comunidad de la IA, de esta manera prestar un servicio a la comunidad universal. Según la tradición de la Rerum Novarum, se puede decir que aquí hay una llamada a la justicia social”.

La cuestión sigue abierta: ¿Qué será de la vida de millones de personas, externas a los círculos decisionales de expertos y de empresas especializadas en Inteligencia Artificial volcadas con millones de dólares en la carrera tecnológica que pretende incidir en cuestiones vitales, tales como la salud, el trabajo, las aseguraciones, las pensiones, la privacidad, la instrucción, etc.? 

En efecto, la Pontificia Academia de las Ciencias en mayo de 2019, invitó a expertos internacionales a la Ciudad del Vaticano para abordar las preocupaciones de la Iglesia sobre los fundamentos científicos de la innovación de la IA / robótica; las relaciones persona-robot y las implicaciones para la sociedad.

Asimismo, el papa Francisco ha recibido en audiencia privada a líderes del campo tecnológico como el presidente de Microsoft, Brad Smith, el pasado 13 de febrero de 2019, para valorar el bien común en futuras innovaciones. A una platea de los representantes de empresas como Apple, Facebook, Google, Francisco también planteó el beneficio de la IA para que los menores no tengan acceso a material pornográfico y ser protegidos de otras amenazas a su inocencia.

Además, de alertar a las élites del mundo también sobre el mal uso de la inteligencia artificial para manipular la opinión de millones de personas y “envenenar” los debates públicos, a través de un mensaje al pasado Foro Económico Mundial en Davos (27.09.2019).

Artículo de la Civiltá Cattolica: INTELLIGENZA ARTIFICIALE E GIUSTIZIA SOCIALE. Una sfida per la Chiesa

Newsletter
Recibe gratis Aleteia.