La Agencia Italiana de Protección de Datos prohibió el viernes a la empresa de inteligencia artificial (IA) Replika utilizar los datos personales de los usuarios italianos, citando riesgos para los menores y las personas emocionalmente frágiles.
ITALIA.- La Agencia Italiana de Protección de Datos el viernes prohibió a la empresa inteligencia artificial (IA) Replika utilizar los datos personales de usuarios italianos, alegando riesgos para menores y personas emocionalmente frágiles.
Una foto sin fecha de la empresa estadounidense Replika muestra a un usuario interactuando con una aplicación de teléfono inteligente para personalizar un avatar para un chatbot de inteligencia artificial personal, conocido como Replika, en San Francisco, California. | Reuters
Replika, una startup de San Francisco lanzada en 2017, ofrece a los usuarios avatares personalizados que hablan y los escuchan.
Ha liderado el mercado entre los angloparlantes y es de uso gratuito, aunque gana alrededor de $ 2 millones en ingresos mensuales por la venta de funciones adicionales como chats de voz.
Él “amigo virtual” se comercializa como capaz de mejorar el bienestar emocional del usuario.
Pero el organismo de control italiano dice que, al intervenir en el estado de ánimo del usuario, “puede aumentar los riesgos para las personas que aún se encuentran en una fase de desarrollo o en un estado de fragilidad emocional”.
Jen Persson, directora del grupo de defensa de la privacidad infantil Defiéndeme digitalmente, Le dijo a Reuters que las herramientas diseñadas para influir en el estado de ánimo o el bienestar mental de un niño deberían clasificarse como dispositivos médicos y, por lo tanto, estar sujetas a estrictas normas de seguridad.
Estas herramientas se usan con niños sin mucha supervisión o protección contra un posible uso indebido”, dijo.
Los reguladores italianos destacaron la ausencia de un mecanismo de verificación de edad, como filtros para menores o un dispositivo de bloqueo si los usuarios no declaran explícitamente su edad.
Replika infringe las normas europeas de privacidad y procesa datos personales de manera ilegal, ya que no puede basarse, ni siquiera implícitamente, en un contrato que un menor no puede firmar, dijo el organismo de control.
Replika no respondió de inmediato a un correo electrónico de Reuters en busca de comentarios.
Robert Grosvenor, director general del bufete de abogados Álvarez y Marshall, Dijo que es poco probable que el regulador italiano sea el único regulador europeo que esté considerando tomar medidas contra empresas como Replika.
Si bien la verificación de edad podría proporcionar medios para proteger a algunos de los grupos más vulnerables, no aborda los riesgos y daños que los servicios y soluciones basados en IA pueden presentar si no están regulados, en términos de potencial de sesgo y discriminación. involuntario”, dijo.
TE PUEDE INTERESAR: Inteligencia Artificial descubre obra desconocida de Lope de Vega en el archivo de la biblioteca
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.