¿Puede la IA ganar conciencia? ¿Es mejor que la inteligencia humana?
Primero escuchamos que un sistema de inteligencia artificial “ganó conciencia y se siente”, según un ingeniero de Google. Posteriormente se viralizaron imágenes de Dalle-e y nos entretuvimos con ChatGPT. Luego vinieron las advertencias, los temores, los pedidos de regulación.
Y las dudas.
Así que en BBC Mundo te preguntamos hace unos días que querias saber sobre Yointeligencia aartificial (IA), recopilamos tus dudas y el consultamos con un experto que ha estado trabajando en el campo de la IA durante más de 30 años.
Es sobre Amparo Alonso Betanzos, Catedrática de Informática e Inteligencia Artificial de la Universidad de A Coruña (España) y suplente del rectorado para asuntos de AI. También fue presidenta de la Asociación Española de Inteligencia Artificial (AEPIA).
Esto es lo que nos dijo.
quéCómo funciona y cómo es el Yointeligencia aartificial?
Es difícil decirlo porque tiene muchas subáreas, pero básicamente hay dos formas de abordar la inteligencia artificial. Una es la simbólica, la antigua IA, donde adquirimos conocimiento de expertos en la materia, es mucho más transparente pero no es escalable.
La otra, la IA que tenemos hoy, se basa en datos. Para derivar conocimiento lo que se hace es alimentar al sistema con datos de un determinado campo, el sistema aprende de esos datos y extrae los patrones. Es capaz de generalizar, predecir, etc. en muchas áreas, desde el lenguaje natural, la visión artificial o el aprendizaje automático.
Hay modelos donde el proceso se hace por razonamiento basado en deep learning con redes neuronales con muchas capas que acaban aprendiendo esos datos. Pero existen otros modelos, como el razonamiento de refuerzo u otros tipos, que se pueden usar para aprender y derivar conocimiento a la IA.
La IA lo hará “alimenta” datos. qué¿De dónde vienen esas bases de datos??
Depende mucho del sistema que tengas. Si se trata de un sistema experto de patrones médicos, se extraen de las grandes bases de datos clínicas a las que hacen referencia cierto tipo de enfermedades o cierto tipo de pacientes. Si se trata de datos de tráfico, se utilizarán las cámaras o sensores de tráfico disponibles.
Hoy en día el proceso de digitalización en el que nos encontramos es tan inmenso que existen sensores que pueden derivar datos de prácticamente cualquier proceso natural o industrial que se nos ocurra. Prácticamente todas las experiencias que se te ocurran son digitales: tus viajes, tu historial médico, tus preferencias…
Por ejemplo, cuando te sientas frente al televisor y te recomienda qué ver, se basa en lo que has hecho antes en esa plataforma. A veces todo esto es el alimento de los algoritmos de IA.
La IA se “alimenta” de bases de datos y estas a su vez provienen de cualquier proceso digital que podamos imaginar.
quécomo es la IA? Son muchos los que imaginan un gran ordenador o que puede convertirse en una máquina al estilo T100 de Terminator.
No. No tanto… A menos que tengas tus programas de IA incrustados en algún robot de aspecto antropomórfico. Puede ser como una aspiradora automática que va por la casa o tener forma humanoide, pero también es simplemente que enciendes tu ordenador y tienes un software que te escucha, o un programa en tu móvil que detecta tu huella.
Es imposible decir un número, cuántos hay. Hay muchos sistemas y sirven para cosas muy diferentes, desde la televisión que recomienda qué ver hasta una app para predecir si tus viñedos tendrán alguna enfermedad. Es algo muy transversal. Está prácticamente en cualquier área que se te ocurra.
quéY cual el impacto de la IA en nuestra vida diaria, en los trabajos…?
Muchas veces estamos utilizando inteligencia artificial y ni siquiera somos conscientes de ello.
En el futuro tenderemos a tener más IA porque se está implementando en más y más áreas.
En cuanto al empleo, antes de la pandemia vimos cómo cambió el panorama. Hay muchos más trabajos afectados por la automatización, no solo por la IA. Lo vemos en los supermercados, con cada vez más máquinas en lugar de cajeros, por ejemplo.
Cambiará las formas de trabajar, sobre todo en tareas automatizadas, y tendremos que convivir con que parte de nuestras tareas rutinarias las realicen máquinas. Te pongo el ejemplo de los médicos, que hace 50 años trabajaban sin apenas instrumental y hoy tienen muchas más máquinas a su disposición.
Está claro que afectará el empleo y la economía, y es algo con lo que los gobiernos deben lidiar. Hay que estar atentos porque, si no, se pueden crear grandes desniveles. Y sí, se destruirán algunos puestos de trabajo, pero se crearán otros.
Últimamente leemos mucho, o así lo percibo, que esto en general es bastante catastrófico. Se está creando un clima de pánico que creo que se debe manejar con cuidado. Muchas veces nos enfocamos solo en el lado más trágico, pero la IA es una herramienta que tiene muchas cosas buenas si se maneja adecuadamente.
“Nos enfocamos solo en el lado más trágico, pero la IA es una herramienta que tiene muchas cosas buenas si se maneja adecuadamente”, dice el experto.
Por ejemplo, en los últimos años hemos visto su capacidad para una medicina mucho más preventiva. Nos puede ayudar en el aprendizaje, podemos ser mucho más selectivos con nuestros alumnos y adaptar su enseñanza, poder predecir enfermedades del ganado, luchar contra el cambio climático, hacer las cosas más sostenibles o gestionar mejor el existencias de tu tienda.
Hay muchos aspectos positivos que debemos aprender a aprovechar y protegernos de aquellos que nos pueden hacer daño.
quéque peligropuede haber con la IA?
Los peligros, por ejemplo, son que el sistema se esté comportando de forma inadecuada y la persona no lo detecte, digamos que su supervisión no es tan estricta como podría ser. Pero ese es un error humano del que no estamos libres ni siquiera con la IA.
Además es una profesión que todavía está muy sesgada hacia el género masculino y es importante que tomemos conciencia de que parte del futuro va a estar diseñado con tecnología. Cómo llegamos allí, cómo queremos que sea el futuro es importante, porque el diseño de estas herramientas requiere que estemos conscientes de los sesgos y requiere la participación de todos.
El sesgo es un riesgo importante en la IA. Para ello, dice la experta, es conveniente que todos formemos parte de ella.
Pero creo que está ayudando a las personas al empoderarlas en la toma de decisiones. Imagina que eres médico y tienes muchos síntomas y dudas. Le preguntas a un colega, en este caso, una IA, y reduce tus posibilidades de decidir. Te ayuda, pero la decisión final depende de ti. Al igual que el algoritmo en una plataforma puede decirte qué mirar, pero al final tú decides, no dejas que la máquina decida por ti.
Es cierto que la IA es algo en lo que estamos avanzando mucho y que es importante regular.
quéS¿Se puede regular o es como poner puertas al campo? Ya hemos visto lo que pasa con internet y el ‘deep web‘Por ejemplo.
La Unión Europea ha estado preocupada por esto durante mucho tiempo. Vamos despacio, pero hay una propuesta.
Hablar sobre este tema comenzó en 2018 cuando se creó el grupo de expertos en inteligencia artificial de alto nivel que produjo estas pautas para una inteligencia artificial confiable. Allí ya se habla de una supervisión humana de la IA y se miran aspectos como la sostenibilidad, la ausencia de sesgos o la seguridad.
Por ejemplo, la supervisión humana es uno de los puntos básicos contemplados en la normativa europea, es decir, que la aplicación de cualquier sistema de inteligencia artificial siempre contará con un supervisor humano a lo largo de todo el proceso de iniciación de la operación, en la recogida de los datos, en los sectores detrás de su aplicación.
En la UE fuimos pioneros y ahora vemos que hay una gran influencia de empresas, la mayoría de fuera de la UE, como en Estados Unidos, que insisten en la necesidad de esta regulación.
Es algo que hay que hacer a nivel mundial, estamos trabajando en ello. Lo importante es dar el primer paso.
¿Se puede regular todo? La respuesta es compleja porque la IA es compleja y está claro que la seguridad cero no existe aquí ni en ningún lado. Por ejemplo, nosotros regulamos y hacemos leyes de tránsito y eso no evita accidentes.
La regulación global siempre sería deseable, pero es difícil hacerlo. Solo tienes que ver el protocolo de Kioto… No todos los países lo firman y no tienes forma de obligarlos a hacerlo. Aparte de la Unión Europea, no es fácil convencer a los otros grandes centros de IA del mundo, como China y Estados Unidos, de que la regulación es necesaria.
Cuanto más avanza la IA, mayor es su capacidad para sustituir nuestro trabajo.
Creo que fuera del ruido mediático todos deberíamos preocuparnos porque es importante regular esta tecnología y se debe arbitrar el monitoreo constante de los sistemas inteligentes.
Últimamente hemos visto titulares y expertos que dicen que AI puede llevar ir a la extinción de La Humanidad… ¿Es tan?
Es difícil decir hasta dónde llegará la inteligencia artificial, pero las máquinas siempre tienen que tener una forma de interrumpirlas, de apagarlas.
Los estamos diseñando por personas… Al igual que las personas están trabajando con energía nuclear. Entonces creo que es importante detectar si hay un problema y establecer estándares de seguridad y aplicación.
Pero a mi modo de ver es que pasa con la IA como pasaba con los coches cuando aparecían. En un principio se pensó que iban a ser extremadamente peligrosos, que podían matar personas y que las velocidades que alcanzaban podían desnaturalizar nuestras proteínas. Hoy sabemos que esto no es así y es una tecnología que tenemos bajo nuestro control, tenemos normativa al respecto, etc.
¿Puede superar la inteligencia humana y tomar conSí¿ciencia?
Casi todos los sistemas de IA superan nuestra inteligencia, simplemente sucede que en un determinado campo.
La mayoría de las IA que tenemos son de nicho estrecho: capaces de tener un nivel muy alto de inteligencia en un campo muy específico. Por ejemplo, la máquina AlphaGo (a la que le enseñaron a jugar go, un juego de mesa) puede vencer al campeón mundial de go, pero si quieres que juegue al ajedrez, tienes que enseñarle, no puede hacerlo solo.
Pueden ser excelentes para diagnosticar un tipo de cáncer, pero no son buenos como médicos generales porque el conocimiento que se necesita es más amplio.
Y sobre la conciencia… Puedes, entre comillas, modelarlo.
Hay robots que pueden modelar sentimientos y puede parecer que tienen una toma…
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.