
Científicos de varios centros de investigación y universidades de varios países alertaron, en un artículo publicado hoy en la revista Science, de la los altos riesgos de la Inteligencia Artificial (IA) y las catastróficas consecuencias que los fallos que esta tecnología puede generar.
Los investigadores dijeron que los sistemas de IA ya se han probado en una amplia gama de aplicaciones, desde diagnósticos médicos hasta navegación autónoma de vehículos, pero advirtieron que estos son escenarios de “alto riesgo” en los que los márgenes de error son pequeños y las consecuencias de una falla pueden ser fatal.
La entrada en Science llega apenas quince días después de que 5.500 expertos de todo el mundo publicaran una carta abierta en la que abogaban por pausar por un tiempo los experimentos con la IA más poderosa y avanzada, la llamada “generativa”. y que es capaz de crear textos o imágenes a partir de datos ya existentes, dados los peligros que puede tener para la sociedad.
Hoy se han sumado a Science investigadores de diversas instituciones académicas y científicas, entre ellas las universidades de Cambridge, Harvard, Stanford, Shandong (China), la Politécnica de Valencia, el Imperial College de Londres, el Instituto Tecnológico de Massachusetts (MIT) y varias empresas, entre ellos Google o la británica DeepMind, una de las mayores multinacionales del sector de la Inteligencia Artificial.
Los científicos suscritos hoy a la revista insistieron en la necesidad de que todas las publicaciones sobre este tema incluyan en detalle toda la información que es vital para comprender y abordar los errores intermedios que pueden terminar en los posibles fracasosy que todos estos datos estén a disposición de la comunidad científica para evitar que se repitan los mismos errores.
Por ejemplo, describieron un escenario hipotético en el que un algoritmo de reconocimiento facial logra la “impresionante” tasa de precisión del 90% al distinguir rostros masculinos de femeninos; sin embargo, un examen minucioso podría revelar que clasifica erróneamente los rostros de mujeres de piel oscura en el 35 % de los casos; y que esa tasa de error solo ocurre en el 0,8 por ciento de los hombres de piel clara.
Por ello, exigieron informes más precisos y una mayor disponibilidad de todos los datos que se han utilizado para los análisis, y consideraron que de esta manera la investigación en IA se acercaría a los protocolos que ya están registrados en otras disciplinas, como la medicina. o física.
Entre los firmantes del artículo se encuentra el español Fernando Martínez-Plumed, científico y profesor del Instituto Valenciano de Investigación en Inteligencia Artificial (Universidad Politécnica de Valencia), quien aseguró que intentar frenar la IA “es una tarea muy difícil, por no decir imposible. y observó que la investigación y el desarrollo involucran a la industria, la academia o la sociedad y que cada uno tiene sus intereses variados y, a veces, contrarios.
Pero es importante, a su juicio, reducir y mitigar riesgos y garantizar un uso responsable y seguro, y entre las diferentes tácticas que se deben seguir, destacó que investigadores y desarrolladores trabajen juntos para crear “más seguros, éticos, transparentes y justos”. y que las empresas y los gobiernos establezcan normas y estándares.
En declaraciones a EFE, Martínez-Plumed comentó que algunas tecnologías de IA pueden ser más peligrosas que otras, como las que implican la toma de decisiones críticas o el acceso a información privada, los sistemas de vigilancia o los algoritmos de contratación; o las más modernas, que pueden generar texto, imágenes, audio o video.
“Son capaces de crear impresionantes obras de arte y texto, pero también presentan nuevos riesgos para la sociedad: la creación de contenido falso, engañoso o incluso peligroso, como noticias falsas, contenido ofensivo, discriminatorio e ilegal”, comentó el investigador.
También reflexionó sobre los sistemas de IA que entrenan y aprenden de conjuntos de datos que reflejan y amplifican los mismos prejuicios y desigualdades que existen en la sociedad (machismo, racismo, clasismo u otros).
Y citó los ejemplos ya comparados de sistemas de contratación de personal que son capacitados con datos históricos de contratación de empleados que muestran sesgos de género o raza, de métodos de detección de rostros que no reconocen a las mujeres negras, algoritmos de búsqueda con estereotipos negativos sobre las niñas negras; e incluso prejuicios lingüísticos al revelar preferencias por determinados acentos o dialectos.
“Los sesgos en los sistemas de IA no son intrínsecos a la tecnología, sino que reflejan prejuicios en los datos y decisiones humanas que se utilizan para entrenar los modelos”, explica a Efe el investigador, quien destaca la importancia de identificarlos y tratarlos para avanzar. hacia sistemas de IA “más equitativos y justos”, guiados por valores éticos y sociales, y no solo por consideraciones técnicas o económicas.
Fernando Martínez-Plumed concluyó que la Inteligencia Artificial puede ser una herramienta poderosa para abordar algunos de los problemas más apremiantes de la sociedad, “pero solo puede ser efectiva si se usa de manera responsable y reflexiva”.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.
