Los dilemas de utilizar la inteligencia artificial para resucitar a los muertos | Noticias de México

julia marrón

mundo de la bbc

Una campaña publicitaria que muestra a la fallecida Elis Regina y su hija Maria Rita tocando a dúo ha provocado reacciones antagónicas en las redes sociales.

En la pieza de Volkswagen, el cantante fallecido en los años ochenta fue devuelto a la vida gracias a la Inteligencia Artificial (IA). Aparece conduciendo una Kombi y cantando Como nuestros padres, de Belchior.

Aunque muchos fanáticos e internautas elogiaron y se emocionaron con el anuncio, otros cuestionaron si es ético utilizar la imagen de una persona que ya no está viva en un contexto ficticio.

El sociólogo y coordinador de impacto del Centro de Inteligencia Artificial de la Universidad de São Paulo (USP), Glauco Arbix, le dijo a la BBC que el tema es controvertidoya sea porque plantea debates sobre los efectos psicológicos de resucitar a los muertos mediante la tecnología o porque toca temas como el consentimiento, la veracidad y la finitud de la vida.

Para Arbix, usar la IA de forma no transparente, informada o consciente conlleva muchos riesgos, especialmente cuando hay desplazamiento espacial o atribución de declaraciones falsas a la persona retratada.

“No porque puedas hacerlo, debes hacerlo”, dice. “Una cosa es guardar una película de alguien que murió en el cajón para verla un par de veces y otra cosa es recrear (su imagen de ella) en nuevas condiciones, como si todavía estuviera vivo”.

Según el profesor de la USP, la sociedad no está preparada para hacer frente a este desplazamiento espacial y circunstancial de figuras fallecidas y hacerlo puede ser “perturbador” para algunas personas.

“La finitud de la vida está sedimentada en la historia social. Incluso para quienes creen en la vida después de la muerte, siempre es algo más inaccesible y diferente a lo que vemos ahora, para lo cual no estamos preparados como sociedad”.

La BBC se puso en contacto con Volkswagen para conocer su posición al respecto, pero no recibió respuesta al momento de escribir este artículo.

Puede destruir el nombre y la reputación.

La campaña de Volkswagen no fue la primera en usar inteligencia artificial para escenificar realidades con personas ya muertas.

En la película Rogue One: A Star Wars Story, la actriz Carrie Fisher también fue recreada digitalmente para que apareciera como la joven princesa Leia.

En junio, el músico Paul McCartney dijo que se había utilizado inteligencia artificial para que la voz de John Lennon, su compañero de banda que murió en 1980, pudiera usarse en una nueva canción de los Beatles.

La tecnología, también conocida como deepfake, se usa a menudo para crear videos falsos con celebridades y figuras políticas.

En el caso del anuncio del fabricante de automóviles, se entrenó inteligencia artificial para el reconocimiento facial de Elis Regina, a diferencia de los proyectos de IA que utilizan tecnología preentrenada a partir de datos genéricos.

Según información divulgada por la empresa Volkswagen, la IA recibió un amplio entrenamiento con distintas tecnologías, combinando la actuación de la doble con los movimientos e imágenes de Elis, para llegar al resultado del rostro de la cantante en el anuncio.

Aunque el video de Volkswagen fue realizado con la autorización y participación de la hija de Elis Regina, Arbix cree que esta tecnología también puede ser utilizada con fines peligrosos, tergiversando los hechos, e incluso en la industria de la pornografía o la pedofilia.

“La persona puede ser objeto de una recreación que termine por destruir su nombre y reputación“, dice. “Pero también plantea preguntas desde el punto de vista de la integridad de la vida familiar”.

Según el sociólogo, todavía no hay consenso entre la comunidad médica sobre los efectos psicológicos para ver o incluso chatear a través de IA con seres queridos que han fallecido.

Varias empresas de tecnología, incluida la estadounidense HereAfter AI, han estado desarrollando tecnologías para desarrollar una versión digital de alguien. Entonces sería posible crear un diálogo artificial con una persona fallecida utilizando información personal, herramientas de voz e inteligencia artificial avanzada.

“Desde el punto de vista de la psicología, hay quienes dicen que puede ayudar a mantener la memoria y consolar a la familia. Pero también hay quienes están totalmente en contra”, dice Glauco Arbix.

Algunos incluso han tratado de protegerse de ella. El actor Robin Williams, fallecido en 2014, impuso en su testamento una restricción al uso de su imagen durante 25 años tras su muerte.

El estadounidense quería evitar que su figura fuera reproducida mediante hologramas u otras tecnologías con fines comerciales.

Derechos de imagen y consentimiento

En cuanto a los derechos de imagen o consentimiento, el sociólogo Glauco Arbix cree que la legislación brasileña ya tiene todos los conflictos bien resueltos.

“La legislación y la forma en que nuestra sociedad la ve dan cuenta del dilema. Las familias son propietarias de los derechos de autor.“, afirma.

“Discutir si, por ejemplo, Elis Regina autorizaría el uso de su imagen en este anuncio es ingenuo, porque tampoco autorizó la publicación de fotos, pero este tema está previsto en la legislación”.

Para Sara Suárez-Gonzalo, profesora de la Universitat Oberta de Catalunya e investigadora del tema, el debate debe ir más allá. Para ella, el consentimiento de los familiares no es suficiente.

“Incluso cuando mueren, las personas no son meras cosas con las que otros pueden hacer lo que quieran. Es por eso que nuestras sociedades consideran incorrecto profanar o irrespetar la memoria de los muertos”.

“En otras palabras, tenemos ciertas obligaciones morales hacia los muertos, en la medida en que la muerte no implica necesariamente que las personas dejen de existir de una manera moralmente relevante”, dice en un artículo publicado en el sitio web The Conversation.

Según Suárez-Gonzalo, el debate es aún más complejo cuando se trata de bots que recopilan datos personales para replicar conversaciones con personas fallecidas, porque la personalidad de alguien “requiere grandes cantidades de información personal, como datos de redes sociales que revelan características muy sensibles”. . “.

El investigador también destaca que otra cuestión ética que involucra el uso de la IA es la responsabilidad por los resultados de la tecnología, especialmente en el caso de los efectos nocivos.

Si un bot, video o imagen creada con la tecnología, por ejemplo, causar daño a la salud mental de un familiar, ¿quién será el responsable?

Recuerda que puedes recibir notificaciones de BBC Mundo. Descarga la última versión de nuestra app y actívalas para no perderte nuestro mejor contenido.