La IA ofrece a los delincuentes nuevas herramientas para sus actividades delictivas.
La inteligencia artificial (IA) se está utilizando para realizar llamadas en las que se imitan las voces de personas conocidas para estafar al destinatario.
Estas llamadas utilizan lo que se conoce como IA generativa, es decir, sistemas capaces de crear texto, imágenes o cualquier otro soporte, como vídeo, a partir de las instrucciones de un usuario.
Deepfakes (falsificaciones profundas) han ganado notoriedad en los últimos años con una serie de incidentes de alto perfil, como el uso de la imagen de la actriz británica Emma Watson en una serie de anuncios sugerentes que aparecieron en Facebook e Instagram.
También está el video ampliamente compartido y desacreditado de 2022, en el que el presidente ucraniano Volodymyr Zelensky parecía decirles a los ucranianos que “depongan las armas”.
Ahora la tecnología para crear audio falso, una copia realista de la voz de una persona, se está convirtiendo cada vez más común.
Los estafadores pueden encontrar el material necesario para perpetrar sus estafas en Internet.
Dar armas al enemigo
Para crear una copia realista de la voz de alguien, se necesitan datos para entrenar el algoritmo. Esto significa tener muchas grabaciones de audio de la voz de la persona.
Cuantos más ejemplos de la voz de la persona se puedan introducir en los algoritmos, mejor y más convincente será la copia final.
Muchos de nosotros ya compartimos detalles de nuestra vida diaria en Internet. Esto significa que los datos de audio necesarios para crear una copia realista de una voz podrían estar fácilmente disponibles en las redes sociales
Pero, ¿qué sucede una vez que la copia está disponible? Qué es lo peor que puede pasar? Un algoritmo deepfake podría permitir que cualquiera que posea los datos hacer que “usted” diga lo que quiera.
En la práctica, esto puede ser tan simple como escribir un texto y hacer que la computadora lo diga en voz alta como si fuera su voz.
En 2022 circuló un video falso del presidente Zelensky, realizado con IA, en el que pedía a los ucranianos que se rindieran ante los rusos.
Los principales desafíos
Esta posibilidad puede aumentar el riesgo de aumentar la prevalencia de la desinformación. Se puede utilizar para tratar de influir en la opinión pública internacional o nacional, como se ve con los “videos” de Zelensky.
Pero la ubicuidad y disponibilidad de estas tecnologías también plantea importantes desafíos a nivel local, especialmente en la tendencia creciente de “IA llama para estafar”.
Muchas personas habrán recibido una estafa o una llamada de phishing diciéndonos, por ejemplo, que nuestra computadora ha sido comprometida y que necesitamos iniciar sesión de inmediato, lo que podría dar acceso a la persona que llama a nuestros datos.
El engaño suele ser muy fácil de detectar, especialmente cuando la persona que hace la llamada hace preguntas y pide información que alguien de una organización legítima no.
Sin embargo, ahora imagina que la voz al otro lado del teléfono no es un extraño, pero suena exactamente como un amigo o un ser querido. Esto inyecta un nivel completamente nuevo de complejidad y pánico para el desafortunado destinatario.
Una historia reciente reportada por CNN destaca un incidente en el que una madre recibió una llamada de un número desconocido. Cuando contestó el teléfono, era su hija. La hija supuestamente había sido secuestrada. y estaba llamando a su madre para pedir rescate.
De hecho, la niña estaba sana y salva. Los estafadores habían falsificado su voz.
Este no es un incidente aislado, y la estafa se ha encontrado con variaciones, incluido un supuesto accidente automovilístico, en el que la presunta víctima llama a su familia para pedir dinero para superar el accidente.
Los expertos recomiendan a las personas estar muy alertas y no tomar decisiones precipitadas al recibir una llamada inesperada.
Viejo truco con nueva tecnología
Esta no es una estafa nueva en sí misma. El término “estafa de secuestro virtual” existe desde hace varios años. Y puede tomar muchas formas, pero una de las más comunes es engañar a las víctimas para que paguen un rescate para liberar a un ser querido que creen que está amenazado.
El estafador intenta establecer una demanda incondicional y hacer que la víctima pague el rescate rápido antes de que descubra que fue engañado.
Sin embargo, el surgimiento de tecnologías de IA poderosas y fácilmente disponibles ha subido la apuesta significativamente y ha hecho que las cosas sean más personales.
Una cosa es colgarle una llamada anónima, pero se necesita mucha confianza para colgar a alguien que parece un niño o una pareja.
Existe un software que se puede usar para identificar falsificaciones y que crea una representación visual del audio llamada espectrograma. Cuando está escuchando la llamada, puede parecer imposible distinguirla de la persona real, pero las voces se pueden diferenciar cuando los espectrogramas se analizan uno al lado del otro.
Al menos un grupo ha ofrecido software de detección descargable, aunque es posible que dichas soluciones aún requieran algunos conocimientos técnicos para su uso.
Algunas empresas están desarrollando programas informáticos que permiten comparar voces reales con las que se sospecha que han sido generadas por IA.
La mayoría de las personas no podrán generar espectrogramas, entonces, ¿qué haces cuando no estás seguro de que lo que escuchas es real? Como con cualquier otro medio de comunicación, tienes que ser escéptico.
Si recibe una llamada inesperada de un ser querido pidiendo dinero o haciendo solicitudes que parecen fuera de lugar, devuélvale la llamada o envíele un mensaje de texto para confirmar que realmente está hablando con él.
A medida que se expanden las capacidades de la IA, las líneas entre la realidad y la ficción se vuelven más borrosas. Y no es probable que podamos detener esa tecnología. Esto significa que la gente tendrá que volverse más cautelosa.
*Oliver Buckley es profesor asociado de Ciberseguridad en la Universidad de East Anglia (Reino Unido) y tiene un título en Informática y Ciencias de la Computación de las universidades de Liverpool y Gales.
*Este artículo fue publicado en The Conversation y reproducido aquí bajo la licencia creative commons. Haga clic aquí para leer la versión original.
Recuerda que puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.