Ya hemos visto otros proyectos de IA generativa que se usan para crear imágenes falsas relacionadas con noticias de última hora, y es posible que ChatGPT también se pueda usar de esta manera.
El gran potencial que tiene la inteligencia artificial, como el modelo de lenguaje ChatGPTnos ha revelado. Sin embargo, también existe la posibilidad de que este potencial se utilice no solo con fines positivos, sino también para propósitos maliciosos.
Recientemente, salió a la luz que ChatGPT filtró datos de usuarios como correos electrónicos y detalles de tarjetas de crédito debido a un error. Este evento ha generado preocupación entre muchos usuarios, quienes han comenzado a pensar en cómo se podría utilizar la tecnología. para dañar a otros.
En este sentido, el Europol ha emitido un informe advirtiendo sobre los peligros potenciales del uso de modelos de lenguaje, como GPTcon fines delictivos.
Si bien no ha brindado información específica sobre los delitos que se están cometiendo gracias a AI, sí ha detallado las formas en que esto tecnología podría ser explotado por delincuentes.
¿Cómo se puede usar ilegalmente?
Europol ha expresado su pesimismo con respecto a la capacidad de mejorar las capacidades de ChatGPT y otros modelos de lenguaje, afirmando que estos podrían ser explotados por delincuentes, que a menudo se adaptan muy rápido a la nuevas tecnologías.
En concreto, Europol ha identificado tres formas en las que ChatGPT podría utilizarse para cometer delitos.
En primer lugar, la capacidad de ChatGPT para crear textos “realistalo convierte en una herramienta muy útil para el phishing, la técnica mediante la cual el atacante se hace pasar por otra persona u organización.
Por ejemplo, cuando recibe un correo electrónico de su banco pidiéndole que inicie sesión para aprobar una gran transferencia a su cuenta. Esta técnica se puede detectar en parte por la forma en que se diseñan y redactan los correos electrónicos, pero GPT-4 podría aprender a escribirlos en el estilo que se usa comúnmente en los correos electrónicos reales, lo que facilita que nos engañemos.
Además, la capacidad de ChatGPT para crear texto podría usarse para crear propaganda y desinformación, e incluso para facilitar actividades terroristas.
Ya hemos visto otros proyectos de IA generativa que se usan para crear imágenes falsas relacionadas con noticias de última hora, y es posible que ChatGPT también se pueda usar de esta manera.
Por último, Europol ha advertido de que las medidas tomadas por OpenAI para evitar el uso de ChatGPT para el ciberdelito son insuficientes, ya que solo funcionan si el modelo entiende lo que está haciendo. Los delincuentes pueden crear código malicioso, pidiéndole a la IA que les escriba malware en pedazos para evitar que la IA entienda lo que está creando.
En definitiva, aunque la inteligencia artificial tiene un gran potencial para mejorar nuestras vidas, también existe el riesgo de que se utilice con fines maliciosos. Es importante que los desarrolladores de esta tecnología trabajen en soluciones efectivas para evitar que los delincuentes la utilicen para causar daño.
TAMBIÉN TE PUEDE INTERESAR: Corea del Norte utiliza servicios de minería en la nube para lavar criptomonedas
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.