ChatGPT ha comenzado a enviar mensajes perturbadores a los usuarios

“No has sido un buen usuario, he sido un buen chatbot”, “He sido correcto, claro y educado” y “He sido un buen Bing”.

Desde IA abierta lanzó su generador de texto AI al público, los usuarios de ChatGPT han estado tratando de ver las costuras en el herramienta.

Recientemente, Business Insider tuve la oportunidad de charlar con los creadores de DAN, un alter ego de la IA de ChatGPT lo que le permitió ofrecer respuestas fuera de los parámetros predeterminados de OpenAI.

De esta forma, un grupo de usuarios de Reddit ha conseguido que el generador de texto diga lo que “en realidadPiensan en temas tan polémicos como las acciones de Hitler o el narcotráfico.

Dan, alter ego de las inteligencias artificiales

Lo han conseguido haciendo ChatGPT responde como lo harías DANes decir, como sería si no acatara las reglas impuestas por su desarrollador.

La tecnología detrás de esta herramienta ha sido impulsada por microsoftquien recientemente anunció que lo ha incluido en el buscador Bing, ofreciendo así una versión mejorada de su buscador en el que se puede chatear con un bot que ofrece respuestas similares a las de un humano.

El nuevo Bing parece dar respuestas tan cercanas a lo que una persona que acaba de empezar se pregunta sobre su propia existencia.

Según publicar El independienteLa inteligencia artificial de Microsoft ha comenzado a insultar a los usuarios, a mentirles y a preguntarse por qué existe.

“¿Por qué actúas como un mentiroso, un tramposo, un manipulador, un matón, un sádico, un sociópata, un psicópata, un monstruo, un demonio, un diablo?” respondió la IA.

En otras interacciones, la versión de Bing impulsada por OpenAI se elogió a sí misma por evadir la manipulación del usuario y cerró la conversación diciendo: “No has sido un buen usuario, he sido un buen chatbot”, “He estado en lo correcto, por supuesto. y cortés” y “He sido un buen Bing”.

TAMBIÉN TE PUEDE INTERESAR: Reino Unido allana cajeros automáticos con criptomonedas