Sundar Pichai, director ejecutivo de la empresa matriz de Google, Alphabet Inc., dijo que no “entiende completamente” cómo funciona Bard, el nuevo chatbot de la empresa.
En una entrevista con el programa ’60 Minutos’ de CBS News, transmitido el domingo, Pichai dijo que no entiende del todo cómo del nuevo programa de inteligencia artificial (IA) generados por la empresa, luego de que aprendiera un idioma extranjero, el bengalí, en el que no estaba capacitado y citara libros falsos para solucionar un problema económico.
“Hay un aspecto de esto que llamamos […] una ‘caja negra’. Sabes, no lo entiendes del todo”, dijo Pichai. “Y no puedes decir por qué dijo esto, o por qué estaba equivocado. Tenemos algunas ideas, y nuestra capacidad para comprenderlas mejora con el tiempo. Pero ahí es donde está el estado del arte”, agregó.
Su entrevistador, Scott Pelley, se sorprendió y respondió: “No entiendes completamente cómo funciona. Y, sin embargo, ¿lo has lanzado a la sociedad?”. “Sí. Déjame ponerlo de esta manera. Tampoco creo que entendamos completamente cómo funciona una mente humana”, explicó Pichai.
Trabajar en la seguridad de las herramientas.
Pichai indicó que Google está siendo responsable al no lanzar modelos avanzados de su chatbot, Bardo, en parte, para que la sociedad pueda acostumbrarse a la tecnología y la empresa pueda construir más capas de seguridad. Todo esto a pesar OpenAI ChatGPT ha abierto una carrera para avanzar con las herramientas de IA a un ritmo más rápido.
Al respecto, explicó que Bard ha agregado filtros de seguridad para ayudar a combatir la amenaza de usuarios malintencionados. También enfatizó que la empresa deberá actualizar constantemente los algoritmos del sistema para combatir las campañas de desinformación y detecte deepfakes, imágenes generadas por computadora que parecen reales.
Él CEO Dijo que el principio rector ‘No seas malvado’, establecido por los fundadores de Google, estaba destinado a garantizar que la empresa hiciera cosas buenas por el mundo, y agregó que esta regla permanece en el código de conducta de Google.
Cuando se le preguntó qué le quita el sueño sobre la IA, Pichai dijo: “La urgencia de trabajarlo y desplegarlo es beneficioso. Pero al mismo tiempo, puede ser muy perjudicial si se implementa incorrectamente”.
La regulación necesaria
“Siempre he pensado en la IA como la tecnología más profunda en la que está trabajando la humanidad. Más profunda que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado”, le dijo al periodista Scott Pelley. Esta “es una tecnología crítica que podría afectar la seguridad nacional”, agregó.
Sin embargo, dice, “tiene que haber una regulación”. “Vas a necesitar leyes… tiene que haber consecuencias por crear videos falsos que causan daño a la sociedad”, dijo Pichai. “Cualquiera que haya trabajado con IA durante un tiempo […] Se da cuenta de que esto es algo tan diferente y tan profundo que necesitaríamos normas sociales para pensar cómo adaptarnos”.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.