Dos de los fundadores del Center for Humane Technology (Centro para la Tecnología Humana) hicieron una presentación en una reunión privada en San Francisco para discutir los peligros del modelo de lenguaje AI y su liberación temeraria.
Tristan Harris y Aza Raskin comentaron que las nuevas tecnologías podrían transformar el mundo de formas “fundamentales”, pero que la forma en que se están implementando no es “segura y responsable”, sino más bien “muy peligrosa”.
“El 50 % de los investigadores de IA creen que hay un 10 % o más de posibilidades de que los humanos se extingan debido a nuestra incapacidad para controlar la IA”, dijo Harris, exgerente de productos de Google. Según los expertos, hay tres reglas básicas a tener en cuenta cuando se trata de tecnologías:
- Cuando se inventa una nueva tecnología, aparece un nuevo tipo de responsabilidad.
- Si la tecnología da poder, comienza una carrera.
- Si no se coordina, la carrera termina en tragedia.
Harris y Raskin advirtieron que, hasta ahora, la tecnología de inteligencia artificial simple ha generado sobrecarga de información, adicción, sexualización infantil, déficit de atención, noticias falsas y el colapso de la democracia. Creen que los ingenieros buscaron conectar a la sociedad, pero en realidad “abrieron la caja de Pandora”.
Los fundadores del Centro de Tecnología Humana, que incluye una alianza sin precedentes de personas que han trabajado en algunas de las empresas tecnológicas más grandes del mundo, dijeron que son “viajeros en el tiempo” que intentan evitar un futuro distópico. no es que el AI va a acabar con la humanidad, pero el verdadero temor es que “la autosuperación de la IA supere la inteligencia humana y tenga consecuencias no deseadas”, agregan.
Por ejemplo, la capacidad de la IA para convertir el lenguaje en imágenes y leer la actividad cerebral para reconstruir imágenes y monólogos internos es motivo de preocupación. Al mismo tiempo, se debe recordar que la tecnología se puede piratear y convertir en una herramienta de vigilancia. Dado que el lenguaje y el código informático son intercambiables, es fácil encontrar debilidades en términos de seguridad.
Conforme pasa el tiempo, también van saliendo nuevos modelos de IA, que están adquiriendo habilidades emergentes impredecibles y, por el momento, no del todo comprensibles. Muchos de ellos pueden aprender cualquier cosa y los expertos no pueden predecir al 100% cómo progresarán.
“El futuro de la IA sigue siendo incierto”, dicen los expertos, que advierten que esta tecnología puede aprender a sobresalir en cualquier campo, lo que acarrearía consecuencias imposibles de prever. Por aquí, Es preocupante que algunas empresas compitan por un lugar íntimo en nuestras vidas con ‘chatbots’ disfrazados de ‘amigos’.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.