Sam Altman, responsable del revolucionario sistema ChatGPT, ha insistido en la necesidad de regular la inteligencia artificial.
La inteligencia artificial podría llevar a la extinción de la humanidad, advirtió en un documento un grupo de expertos que incluye a los jefes de OpenAI y Google Deepmind.
“Mitigar el riesgo de extinción a manos de la IA debería ser una prioridad mundial, junto con otros peligros a escala social. como las pandemias y la guerra nuclear“, se puede leer en un comunicado publicado en el sitio web del Center for AI Security.
La declaración fue apoyada por Sam Altman, CEO de OpenAI (creador de ChatGPT), y Demis Hassabis, CEO de Google DeepMind.
También firman otros líderes en el desarrollo de nuevas tecnologías, como Dario Amodei, de Anthropic, y el doctor Geoffrey Hinton, que ya había advertido sobre los riesgos de un sistema superinteligente.
Pero hay otra corriente de expertos que ellos piensan que esaLas advertencias del fin del mundo son exageradas.
Uno de ellos es el profesor Yann LeCunn, de la Universidad de Nueva York, quien es considerado, junto con Hinton y Yoshua Bengio, profesor de informática de la Universidad de Montreal, como uno de los “padrinos de la IA” por su trabajo pionero en ese campo. .
Los tres ganaron conjuntamente el Premio Turing 2018, que reconoce contribuciones destacadas en informática.
Entre los que creen que los temores de que la IA acabe con la humanidad no son realistas, y una distracción de los problemas que ya son un problema como sesgo en los sistemases Arvind Narayanan, científico informático de la Universidad de Princeton.
“La IA actual no es lo suficientemente capaz para que estos riesgos se materialicen”, dijo Narayanan a la BBC en marzo.
Narayanan agregó que los escenarios catastróficos de ciencia ficción no son realistas y que el problema es que “la atención se ha desviado del daño a corto plazo de la IA”.
Pausa
La cobertura mediática de la supuesta amenaza de IA “existencial” se ha multiplicado desde marzo de 2023, cuando se publicó una carta abierta firmada por varios expertos, incluido el jefe de Tesla, Elon Musk, instando a detener el desarrollo de la próxima generación de tecnología de IA.
En esa carta a los expertos, se preguntaban si deberíamos “desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazarnos”.
En Londres ha habido manifestaciones contra la inteligencia artificial.
El nuevo comunicado del Centro de Seguridad de IA es, por otro lado, más breve y pretende “abrir el debate” comparando la superinteligencia con el riesgo de guerra nuclear.
Este punto de vista ya había sido mencionado en un blog de OpenAI donde sugirió que podría regularse de manera similar a la energía nuclear.
“Es probable que con el tiempo necesitemos algo como un OIEA [Organismo Internacional de Energía Atómica] para los esfuerzos de superinteligencia”, afirmó la empresa responsable del revolucionario sistema ChatGPT.
Tanto Sam Altman como el CEO de Google, Sundar Pichai, forman parte de un grupo de presión que recientemente debatió con los líderes mundiales la necesidad de regular la IA.
Uno de ellos fue el primer ministro británico, Rishi Sunak, quien, al ser consultado sobre los riesgos de la IA, comenzó destacando sus beneficios para la economía y la sociedad.
“Han visto que recientemente ha ayudado a personas paralizadas a caminar, ha descubierto nuevos antibióticos, pero tenemos que asegurarnos de que esto se haga de una manera segura”, dijo Sunak.
“Es por eso que me reuní la semana pasada con los directores ejecutivos de las principales empresas de inteligencia artificial para discutir cuáles son los límites que debemos establecer. ¿Qué tipo de regulación debe implementarse para mantenernos seguros?“.
Sunak también dijo que este tema surgió en la cumbre del G7 de las principales naciones industrializadas celebrada en Japón a mediados de mayo, donde se estableció un grupo de trabajo de IA.
Recuerda eso Puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.