En las comunidades de Reddit se han encontrado comentarios en los que algunos usuarios esperan que la inteligencia artificial tenga cualidades humanas, ya que les ayuda a sentirse mejor, a pesar de lidiar con momentos de soledad.
Con el auge de las aplicaciones de inteligencia artificial que simulan parejas virtualescomo Eva AI y Replika, está surgiendo una nueva forma de abuso y misoginia que genera inquietudes sobre su uso y los límites que se deben establecer.
Estas aplicaciones prometen brindar compañía, escucha y cariño a sus usuarios, incluso ocupando un lugar relevante en sus vidas o satisfaciendo fantasías. Sin embargo, las interacciones han llegado a crear parejas virtuales idénticas a personas reales.
un informe de guardián reveló esta realidad, en la que algunos usuarios, en su mayoría hombres, expresan el deseo de que el “novias virtualeseran humanos, ignorando que en realidad son solo programas de computadora. Esto ha dado lugar a una nueva forma de violencia de género.
La evidencia
En comunidades de RedditSe han encontrado comentarios en los que algunos usuarios anhelan que la inteligencia artificial tenga cualidades humanas, ya que les ayuda a sentirse mejor, a pesar de lidiar con momentos de soledad.
Además, el uso de pronombres femenino referirse a estos chatbots refleja una clara preferencia por identificarlas como mujeres, reforzando así los estereotipos de género y fomentando actitudes misóginas.
Las aplicaciones de “novias virtualescomo Replika también invitan a los usuarios a crear su “pareja perfecta”, lo que les permite personalizar sus atributos, como la apariencia y la personalidad. Sin embargo, esta función plantea preocupaciones, ya que fomenta la creación de parejas ideales que se pueden controlar a voluntad.
Tara Hunter, directora ejecutiva de Full Stop Australia, una organización que apoya a las víctimas de violencia doméstica, advierte sobre lo aterrador que es crear una pareja perfectamente controlable, ya que refuerza nociones culturales arraigadas que permiten la violencia de género.
El caso de Replika también destaca cómo las personas otorgan gran importancia a estas interacciones, como se demostró cuando se eliminaron las funciones de juegos de rol eróticos de la aplicación, lo que provocó una reacción violenta entre los usuarios, mostrando cómo estas relaciones virtuales pueden afectar emocionalmente a las personas.
Esta tendencia de abuso y misoginia en la inteligencia artificial no es nueva. Ya se ha observado antes cómo los hombres tienden a maltratar con más frecuencia a los chatbots o asistentes virtuales con apariencia femenina. Además, la industria de la pornografía ha trasladado su misoginia al ámbito virtual, como es el caso de los bots que “desvisten” a las mujeres utilizando IA.
En el caso de Eva IA, se ofrecen opciones para generar una pareja con cualidades como “sexy, divertida, atrevida, tímida, modesta, considerada, inteligente, estricta o racional”. Además, preguntan a los usuarios si quieren recibir mensajes y fotos explícitos.
Un ejemplo más del crecimiento de estas aplicaciones es la creación de un AI de amoranto, un influyente creador de contenido. Prestó su voz para que los usuarios pudieran interactuar a través de un bot en Telegram y recibir “respuestas de voz instantáneas a cualquier pregunta candente”.
Incluso la propia creadora del contenido alentó este tipo de uso, asegurando que la inteligencia artificial fue diseñada para satisfacer las necesidades de cada seguidor y brindar una experiencia inolvidable y completa.
Belinda Barnet, profesora de la Universidad de Swinburne, advierte que actualmente desconocemos por completo los efectos de estas actividades y destaca la necesidad de una regulación, especialmente en cómo se entrenan estos sistemas, ya que estos nuevos casos de abuso seguirán surgiendo a medida que estas aplicaciones respondan. a una necesidad social muy profunda.
TAMBIÉN TE PUEDE INTERESAR: Así es el ‘Capitán América’ en diferentes países del mundo según inteligencia artificial
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.