Alexa, ¿puede la abuela terminar de contarme esa historia?
Todos hemos oído, o hemos sido nosotros los que hemos dicho, la frase: “Ya no recuerdo su voz”, hablando de un ser querido que ha fallecido. Y se dice con el anhelo de que tal vez hoy debamos empezar a considerar la nostalgia como un privilegio. Lo que nos hace poner los ojos en blanco.
La nueva función de Alexa, el asistente de voz de Amazon que ya ha logrado importantes hitos y ahora es capaz de imitar y reproducir la voz de cualquier persona, incluidas las de los difuntos más queridos, fue inmediatamente objeto de debate. Presentada en la Conferencia Re:MARS en Las Vegas por Rohit Prasad, vicepresidente senior de la división que se ocupa de las actualizaciones y el desarrollo del asistente digital, la novedad ha levantado no pocas dudas éticas entre el público, ya que el mismo ejemplo tomado en consideración fue el de un video en el que Alexa le leía un cuento a un niño con la voz de la abuela desaparecida tiempo atrás.
por Il Corriere della Sera
Shutterstock
El diablo está precisamente en los detalles, construidos a la perfección. La presentación de esta nueva característica de Alexa, que plantea serias dudas éticas, está diseñada para tener un tremendo impacto emocional. La escena que se ofrecía era la de un niño acostumbrado a quedarse dormido escuchando los cuentos que le contaba su abuela y que, una vez que ésta ha desaparecido, se encuentra preguntando al asistente de voz:
Alexa, ¿puede la abuela terminar de leerme El mago de Oz?
¿Quién no se siente atraído o conmovido por tal escenario? Escuchar la voz de quien hemos perdido de nuevo. Incluso conversando con ella o él. Engañarnos con que ese vínculo no se ha interrumpido. Aunque nos la sirva en bandeja de plata, esta hipótesis es precisamente la forma más directa de dejar de levantar los ojos al Cielo, de dejar de preguntarnos por lo eterno y de quererlo.
En lugar de esta tensión que desde la muerte nos empuja a mirar más allá, tendremos herramientas muy avanzadas capaces de mantenernos pegados a la fugacidad de la tierra, bajo la ilusión de hablar con los muertos.
¿Un recuerdo duradero o un engaño bien pensado?
En pocas palabras, ¿cuál es la nueva funcionalidad de Alexa? Te llevará menos de un minuto de grabación de audio poder imitar con precisión cualquier voz. Digamos que, dicho de esta manera, inmediatamente se burlaría incluso de los menos expertos en tecnología. La pregunta surge espontáneamente: entonces no solo vale para los muertos, ¿Alexa también puede ‘tomar posesión’ de mi voz? ¿Y qué puede pasar después?
Las hipótesis al respecto apuntan a que ya estamos en un campo muy minado, en el que el potencial de la inteligencia artificial choca con la libertad personal.
De ahí la necesidad de que los desarrolladores presenten la actualización del asistente de voz de una manera persuasiva, mirando a otra parte del campo minado. Notamos la sutileza. La comunicación sobre la nueva función de Alexa giró en torno a una palabra clave fundamental: la memoria.
La empresa promete poder “hacer que el recuerdo perdure”.
de The Guardian
Constatamos también que, a partir de ese horizonte que nos toca las cuerdas más profundas a todos, la retórica ha sabido muy bien desviar la atención de las grietas éticas.
Rohit Prasad, vicepresidente y científico jefe, dijo en la presentación del miércoles […] que durante la pandemia “muchos de nosotros han perdido a sus seres queridos”.
Ibídem
¿Y quién no ha sembrado en su corazón la necesidad de decir algo más a aquellos de los que no pudo despedirse? Entrar en la grieta de una herida profunda, aquí está el truco bien pensado. Sabemos cuánto sufrió la gente en los meses más oscuros cuando los contactos se interrumpieron brutalmente por la hospitalización por COVID-19. Cuando no hubo oportunidad para un permiso de visita antes de la muerte.
Y dado que los cuentos de hadas han sido cuestionados, seamos realistas. Aquí está el lobo que se disfraza de abuela para comerse a Caperucita Roja. También nos pueden decir que Alexa quiere devolvernos la voz de la abuela perdida, pero detrás de esta travesía hay un enemigo omnívoro.
GzP_Diseño | Shutterstock
Habla con los muertos, trata a los vivos como muertos
Hubo un tiempo en que acudías al médium para poder ponerte en contacto con el tío muerto. Este ya es el momento en que las herramientas tecnológicas permiten que los muertos hablen.
En 2020, Joshua Barbeau construyó una versión del chatbot GPT-3 capaz de generar una conversación con su novia Jessica, quien murió 8 años antes . Y en 2018 Eugenia Kuyda creó un chatbot basado en mensajes antiguos de su novio Roman Mazurenko. “No esperaba que tuviera un impacto tan fuerte. Me suele costar mucho exteriorizar las emociones y pensamientos sobre la pérdida, lo que hice fue tratar de evitarlos. Hablar con el avatar de Roman me ayudó a lidiar con esos demonios.
de The Guardian
Esta ilusión de comunicación va a pescar en nuestra intimidad más profunda (en la gran pregunta detrás de cada duelo). Pero es evidente que ciertas investigaciones y logros sobre inteligencia artificial no apuntan tanto a paliar el dolor de una carencia, como a mimetizar la voz humana. Lo realmente candente no es sólo el escenario que concierne al contacto con los muertos, sino lo que será de los vivos una vez que la voz de cada uno sea reproducida por una máquina.
Es por esto que otras empresas han decidido poner en juego apuestas éticas que impidan la manipulación de la libertad personal mediante el uso de voces sintéticas:
El potencial tecnológico es innegable, pero la nueva herramienta suscita no pocas reflexiones de carácter ético, ya ampliamente debatidas en las plataformas sociales por los usuarios más preocupados. La imitación de cualquier voz se remonta a un ejemplo clásico de deepfakea nivel de audio, por lo tanto hay una nueva y muy peligrosa oportunidad de difundir fake news cada vez más difíciles de reconocer. No es un problema que incumba a los fallecidos pues, dijo que para los familiares de los mismos supondría no pocos problemas de duelo, sino algo altamente peligroso para las personas aún vivas, que en consecuencia podrían sufrir la clonación de su propia voz con fines ilícitos.
[…] No es casualidad que Microsoft, antes de que Amazon presentara las últimas noticias, hubiera publicado nuevas reglas éticas para el uso y desarrollo de la Inteligencia Artificial y (no solo en áreas específicas como la salud) un marco regulatorio que podría en el futuro poner bastantes límites al desarrollo de voces “sintéticas”.
por Il Corriere della Sera
Tyler Nottley | Shutterstock
Te extraño
El privilegio de la nostalgia, comencé citando esta hipótesis. Lo pensé mientras hojeaba ciertos titulares temerarios que decían: “Alexa resucita a los muertos”. No, no los resucita; pero si quiere convencernos de que puede hacerlo es porque… el rey está desnudo. A pesar de todo lo que la fanfarria mediática cuenta sobre la humanidad, el hombre se siente hecho para la Resurrección. Quizás, considerando a la humanidad en general, solo escucha un débil eco en su corazón, que habla un idioma que ahora es indescifrable. Sin embargo…
Sin embargo, nuestro destino es precisamente la Resurrección. Y esto implica el desapego del trabajo terrenal a través de esa paradoja que es la muerte. Es un pasaje que lleva al llanto por la falta de los que perdemos. Ese grito, visto más de cerca, es agua que nutre nuestra conciencia. Tener herramientas cada vez más sofisticadas que nos engañan para que no sintamos la pérdida hace que nuestra libertad caiga en un letargo peligroso. La adormece (la distrae), evitando que se sienta mareada ante los interrogantes que sólo la realidad de la muerte suscita: ¿somos para la nada? ¿Te he perdido para siempre?
El anhelo detrás de esa frase tantas veces escuchada – “Ya no recuerdo su voz” – es el bendito dolor de quien, sólo sufriendo el paso de la pérdida, puede atreverse a reconocer que la única medida adecuada a nuestra alma es: te encontraré en el cielo.
(No, no encontraremos a nadie mirando un cilindro parlante en un estante, y quizás perdamos algo de nosotros mismos).
Hoy celebramos a...