Ya se ha documentado en ocasiones anteriores cómo la IA ha reproducido sesgos discriminatorios contra grupos de población específicos.
unos dias despues sam altmanel director ejecutivo de abierto AI y el nuevo medio líder en tecnología, advirtieron de los peligros de la Inteligencia Artificial no regulada.
Al mismo tiempo, expertos en esta tecnología emitieron una carta abierta solicitando la “mitigación del riesgo de extinción” que representa la Inteligencia Artificial para la humanidad, Amnistía Internacional se movilizó junto a diversas organizaciones para exigir que la Reglamento Europeo de Inteligencia Artificial convertirse en una norma que proteja adecuadamente los derechos humanos.
Entre las múltiples exigencias, se exige a la IA que cuente con mecanismos de supervisión que permitan su evaluación, especialmente enfocados a la detección de posibles sesgos discriminatorios para corregirlos de inmediato.
Asimismo, se solicita asegurar mecanismos de rendición de cuentas para las víctimas de dicha discriminación, así como garantizar la derecho a reparar.
problemas de IA
Ya se ha documentado en ocasiones anteriores cómo la IA ha reproducido sesgos discriminatorios contra grupos de población específicos. Por ejemplo, en 2020 se denunció en Holanda el uso sesgado de modelos algorítmicos para evaluar el riesgo de que determinadas personas cometan delitos, lo que se tradujo en una vigilancia masiva y discriminatoria de habitantes de la ciudad holandesa de Raermond, procedentes de Europa del Este, estableciendo un claro carácter racista. sesgo que asociaba el país de origen con el delito.
Un año más tarde, el tema se planteó nuevamente en un informe titulado “Máquinas xenófobas: discriminación a través del uso no regulado de algoritmos en el escándalo de los beneficios de cuidado infantil holandés”.
En este informe, se dijo que el uso de perfiles raciales en el diseño del sistema algorítmico utilizado en los Países Bajos para determinar si las solicitudes de subsidios para el cuidado de niños se consideraban incorrectas y potencialmente fraudulento.
TAMBIÉN TE PUEDE INTERESAR: Inteligencia artificial imagina cómo sería el rostro del anticristo (VIDEO)
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.