Dos empleados de Google que revisaron los productos de inteligencia artificial (IA) de la empresa en marzo intentaron impedir que la empresa lanzara su chatbot Bard AI, advirtiendo que la herramienta hizo afirmaciones inexactas y peligrosas, informa The New York Times.
Investigadores de gigantes tecnológicos como Google y Microsoft dicen que las empresas se están arriesgando al lanzar tecnología que ni siquiera sus propios desarrolladores entienden por completo. Google lanzó Bard después de años de desacuerdo interno sobre si los beneficios de la inteligencia artificial generativa, la tecnología que impulsa a los chatbots, superan los riesgos.
El equipo de Innovación Responsable de la compañía documentó una serie de problemas con los chatbots, como que podrían generar información falsa, dañar a los usuarios que se apegan emocionalmente a ellos y permiten la “violencia facilitada por la tecnología” a través del acoso masivo en línea, informa RT.
Dos revisores de ese equipo enviaron una evaluación de riesgos de Bard y recomendaron bloquear su lanzamiento, pero a pesar de las medidas de seguridad que tomaron, sintieron que el chatbot no estaba listo. Sin embargo, ela directora del equipo de Innovación Responsable, Jen Gennai, editó el documento, eliminó las recomendaciones y restó importancia a la gravedad de los riesgos de Bard, según fuentes familiarizadas con el asunto.
Hablando con The New York Times, Gennai defendió sus acciones afirmando que Bard es solo un experimento, por lo que los revisores no deberían compartir sus puntos de vista sobre el proceder de la compañía. Agregó que “corregió suposiciones inexactas” y en su lugar agregó “más riesgo y daño que necesitaba consideración”. Esto hizo que el chatbot fuera más seguro, insistió.
Hasta hace poco, las empresas de tecnología tenían aversión al riesgo, pero ahora están haciendo movimientos agresivos en su intento por hacerse con el control de lo que podría ser el próximo gran avance de la industria: la IA generativa.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.