En un nuevo estudio problemático; Pues bien, escondidas dentro de los modelos base de los populares generadores de imágenes de inteligencia artificial, hay una gran proliferación de imágenes con contenido turbio: abuso infantil.
:quality(70)/cloudfront-us-east-1.images.arcpublishing.com/elimparcial/FMNYQ3YVPVEJRCGTYTB74A5J5E.png)
Durante los últimos meses la inteligencia artificial ha crecido de manera muy considerable; hasta el punto de ser parte de la actividad diaria de las personas; Sin embargo, la forma en que se les capacita no ha sido del todo ética, incluso en estación de arte Surgió una polémica en su contra.
Eliminan datos de inteligencia artificial tras encontrar material de abuso infantil.
En un nuevo estudio problemático; Pues bien, escondidas dentro de los modelos base de los populares generadores de imágenes de inteligencia artificial, hay una gran proliferación de imágenes con contenido turbio: abuso sexual infantil.
En un informe de Internet Fundación WATCH, co.Con sede en el Reino Unido, se le encomendó la tarea de instar a los gobiernos y proveedores de tecnología a actuar rápidamente ante una avalancha de imágenes de abuso sexual infantil generadas por La IA abruma a los investigadores.
“No estamos hablando del daño que podría causar (…) Está sucediendo ahora mismo y es necesario abordarlo ahora”, dijo Dan SExton, director de tecnología del grupo de vigilancia.
Por lo tanto, se descubrió que un gran conjunto de datos de IA, que LAION-5B utilizó para entrenar generadores de imágenes de texto a imagen populares, contenía material de abuso sexual infantil.
LAION, también conocida como Red abierta de inteligencia artificial a gran escala, es una organización alemana sin fines de lucro que crea modelos de inteligencia artificial y conjuntos de datos de código abierto que se utilizan para entrenar varios modelos populares de conversión de texto a imagen.
En el informe del 20 de diciembre elaborado por investigadores del Centro de Política Cibernética del Observatorio Stanford Internet Research dijo que identificaron casi 3.226 casos de presunto material de abuso sexual infantil.
:quality(70)/cloudfront-us-east-1.images.arcpublishing.com/elimparcial/RUNUBJR2ZNF37OZ6TBETJOK25Y.jpg)
Además, David Thiel, arquitecto de Big Data en el Cyber Policy Center, señaló que, si bien la presencia de este material no significaría influir “drásticamente” todavía podría tener algún efecto.
Si bien la cantidad de material de abuso sexual infantil presente no necesariamente indica que la presencia de material de abuso sexual infantil influya drásticamente en la producción del modelo más allá de la capacidad del modelo para combinar los conceptos de actividad sexual e infancia, probablemente todavía ejerza influencia”, dijo Thiel.
LAION tiene una política de tolerancia cero con el contenido ilegal. Trabajamos con organizaciones como IWF y otras para validar enlaces en los conjuntos de datos de LAION con herramientas de filtrado desarrolladas por nuestra comunidad y organizaciones asociadas para garantizar que estén seguros. https://t.co/SStsqukbFK
– LAION (@laion_ai) 20 de diciembre de 2023
Finalmente, LAION afirmó que eliminó los conjuntos de datos por “precaución”, incluidos tanto LAION 5B como LAION 400M para asegurarse de que sean seguros antes de volver a publicarlos.
Asimismo, es necesario recordar que, en un caso único en su tipo, en Corea del Sur, un hombre fue condenado a dos años y medio de prisión por utilizar imágenes creadas con inteligencia artificial que crea imágenes virtuales de abuso infantil en 360°. , según el Tribunal de Distrito de Busan.
TE PUEDE INTERESAR:Mi pobre angelito: ¿Cómo sería si hubiera sido fabricado en Rusia según inteligencia artificial?
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.