En términos de innovación, está claro que las entidades públicas de todo el mundo están adoptando cada vez más la IA y los sistemas algorítmicos de toma de decisiones para prestar servicios públicos o ejercer sus poderes de aplicación de la ley.
Durante la semana, marcelo ebrarduno de los candidatos más destacados a la presidencia de México, propuso la implementación de modelos de inteligencia artificial (IA) como una nueva estrategia para abordar la seguridad pública en el país.
Esta iniciativa se conoce como “ángel plan“. De todas las ideas presentadas, me llamaron la atención dos enfoques principales: el reconocimiento facial y el reconocimiento morfológico de personas.
En otras palabras, el AI podría monitorear nuestros rostros en tiempo real y tomar decisiones predictivas sobre el potencial delictivo de una persona considerando características como la altura, el peso, el sexo, el comportamiento o la raza. Esto me parece más cercano a la escuela criminal del siglo XIX dirigida por Cesare Lombroso que a una idea del siglo XXI. Me gustaría hablar sobre este tema hoy.
México y el uso de la IA
Como mencioné en las últimas semanas, la IA, que alguna vez se consideró una fantasía de ciencia ficción y una visión futurista, ahora está entrelazada con nuestra vida diaria de maneras de las que apenas somos conscientes. empezando a entender.
Sin embargo, creo que el “Plan Ángel”, tal como ha sido presentado, genera más preguntas que respuestas, especialmente en un área tan sensible como la seguridad. público y derechos humanos.
En términos de innovación, está claro que las entidades públicas de todo el mundo están adoptando cada vez más la IA y los sistemas algorítmicos de toma de decisiones para prestar servicios públicos o ejercer sus poderes de aplicación de la ley.
La lógica detrás de la implementación de estos sistemas por parte del sector público es similar a la del sector privado: aumentar la eficiencia y la velocidad de las transacciones y reducir los costos.
Sin embargo, las entidades públicas están destinadas principalmente a satisfacer las necesidades de los miembros de la sociedad y proteger su seguridad, derechos fundamentales y bienestar.
Actualmente, los sistemas de IA se implementan en el sector público en diferentes niveles administrativos sin la debida diligencia, supervisión o transparencia adecuadas. Esto ha resultado en una creciente confusión entre los proveedores privados y los actores públicos, y una borrón de las líneas de responsabilidad y rendición de cuentas.
Sin embargo, ante la falta de legislación en México, antes de pensar en el “qué”, debemos considerar el “cómo”. Primero, esto lleva a la necesidad urgente de establecer pautas específicas de adquisición de IA para proteger los derechos fundamentales y el debido proceso. Estos lineamientos son necesarios debido a las nuevas complejidades y riesgos que introducen los sistemas de IA, así como las capacidades institucionales que afectan el proceso de toma de decisiones.
Por ejemplo, en la reciente idea de usar IA en México Como herramienta para combatir el crimen, identifico al menos tres desafíos en términos de responsabilidad: 1) diferentes niveles administrativos, es decir, federación, estados y municipios; 2) múltiples actores involucrados en el diseño, desarrollo y uso de sistemas de IA; y 3) la creciente complejidad y opacidad de los sistemas de IA y Big Data.
Estos desafíos seguramente harán que sea difícil identificar quién es el responsable cuando algo sale mal con un sistema de IA. Además, la complejidad de los sistemas de IA puede hacer que incluso los actores públicos que los implementan no entiendan completamente su funcionamiento.
Además, los sistemas de IA utilizados en el trabajo de seguridad pueden amplificar o profundizar las desigualdades y los sesgos existentes en la sociedad. Esto puede suceder de varias maneras:
Codificación de valor: la sistemas de IA reflejan los valores de quienes los crean. Si estos valores no consideran una diversidad de perspectivas y experiencias, pueden favorecer a un grupo sobre otro. En otras palabras, pueden identificar a una persona sospechosa simplemente porque “parece que va a robar”.
TAMBIÉN TE PUEDE INTERESAR: Inteligencia artificial para resucitar muertos es una posibilidad
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.