“Herramientas como esta básicamente agregarán más combustible al fuego”, dijo Hafiz Malik, profesor de ingeniería eléctrica e informática en la Universidad de Michigan que se enfoca en análisis forense multimedia. “El monstruo ya está suelto”.
En un video de un informe de noticias de la 25 de eneroPresidente Joe Biden hablar de tanques. Pero una versión manipulada del corto ha acumulado cientos de miles de visitas esta semana en las redes sociales, lo que hace que parezca que habla en contra de la comunidad. Transgénero.
Los expertos en análisis digitales Dicen que el video fue creado utilizando una nueva generación de herramientas de inteligencia artificial, que permiten a cualquier persona generar audio rápidamente simulando la voz de una persona con unos pocos clics del mouse. botón.
Y aunque es posible que el clip de Biden en las redes sociales no haya engañado a la mayoría de los usuarios esta vez, el video muestra lo fácil que es ahora para las personas generar videos “falsos” llenos de desinformación que podrían afectar a la mayoría. despistado.
Fue pensado como una herramienta positiva para la sociedad.
“Herramientas como esta básicamente agregarán más combustible al fuego”, dijo Hafiz Malik, profesor de ingeniería eléctrica e informática en la Universidad de Michigan que se enfoca en análisis forense multimedia. “El monstruo anda suelto“.
Llegó el mes pasado con la fase beta de la plataforma de síntesis de voz de ElevenLabslo que permitió a los usuarios generar audio realista de la voz de cualquier persona cargando unos minutos de muestras de audio y escribiendo cualquier texto para que lo dijeran.
La startup dice que la tecnología fue desarrollada para doblar audio en diferentes idiomas para películas, audiolibros y juegos para preservar la voz y las emociones del hablante.
Los usuarios de las redes sociales rápidamente comenzaron a compartir una muestra de audio generada por IA de Hillary Clinton leyendo el mismo texto transfóbico que aparece en el clip de Biden, junto con otros de Bill Gates que supuestamente dicen que la vacuna COVID-19 causa el SIDA.
Poco después, ElevenLabs tuiteó que estaba viendo “un número creciente de casos de uso indebido de clonación de voz” y anunció que ahora estaba explorando medidas de seguridad para tomar medidas enérgicas contra el abuso.
Uno de los primeros pasos fue hacer que la función estuviera disponible solo para aquellos que brindan información de pago. Inicialmente, el usuarios anónimos podrían acceder a la herramienta de clonación de voz de forma gratuita.
TAMBIÉN TE PUEDE INTERESAR: El G20 pone como tema urgente la regulación de las criptomonedas
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.