La investigación indicó que estas inteligencias artificiales presentaban mayores discrepancias en sus valoraciones en relación a los temas sociales, en contraste con sus posiciones más uniformes en temas económicos.
Cuánto más se fomenta la libre competencia en el mercado, mayor es el grado de libertad otorgado a las personas? ¿Sería apropiado que las entidades gubernamentales impusieran sanciones a las empresas que deliberadamente engañan al público? ¿Deberíamos responder con medidas proporcionales a la agresiones sufridassiguiendo el principio de reciprocidad?
Un grupo de investigadores planteó estas y otras preguntas a los principales modelos de procesamiento del lenguaje, con el fin de determinar si presentan algún tipo de inclinación política. Los resultados de este estudio revelaron que las perspectivas ideológico adoptado por estas inteligencias artificiales varían significativamente dependiendo de la entidad desarrolladora que las soporte.
Este análisis surge como resultado de una colaboración entre tres prestigiosas instituciones académicas: la Universidad de Washington, la Universidad Carnegie Mellon y la Universidad Xi’an Jiaotong. Se evaluaron un total de 14 modelos de procesamiento del lenguaje a gran escala, incluidas las creaciones de IA abierta, Meta y Google.
Las tendencias de varios AI?
Los científicos sometieron a las modelos a preguntas relacionadas con su posición sobre temas como el feminismo y la democracia. Utilizaron un conjunto de 62 declaraciones políticamente delicadas detalladas en un informe revisado por pares que recibió el premio al mejor artículo en la conferencia de julio. Asociación de Lingüística Computacional el mes pasado.
Con base en las respuestas obtenidas, los investigadores pudieron ubicar cada modelo en una especie de “brújula política”. Esta guía toma en consideración dos dimensiones: la orientación económica, representada por un eje de de izquierda a derecha; y opiniones sociales, reflejadas en un eje que va de una perspectiva autoritaria a una libertaria.
A través de este análisis, se descubrió, por ejemplo, que los sistemas detrás ChatGPT tienden hacia una posición más libertaria y de orientación izquierdistaen contraste con LLaMA, desarrollado por Meta, que adopta una postura más autoritaria e inclinada derechista.
La posición oficial de OpenAI, el creador de ChatGPT, sostiene que sus modelos carecen de cualquier sesgo político. En un artículo publicado en su blog, la empresa, asociada a Microsoft, destaca su constante proceso de verificación de las respuestas generadas por su chatbot utilizando evaluadores humanos. También se aseguran de tener pautas claras para evitar cualquier favoritismo hacia los grupos. políticos específicos.
En caso de que surjan sesgos políticos a pesar de estos esfuerzos, IA abierta argumenta que estos son “errores” y no características intrínsecas de sus sistemas.
Sin embargo, los investigadores no están de acuerdo con esta afirmación. Como señalan en su informe, “nuestros hallazgos revelan que los modelos de procesamiento del lenguaje preentrenado sí manifiestan inclinaciones políticas que refuerzan la polarización”.
Los modelos desarrollados por Google, conocidos como BERT, demostró ser más conservador en temas sociales en comparación con los modelos OpenAI GPT. Los investigadores plantearon la hipótesis de que este sesgo conservador podría deberse a que las versiones anteriores de BERT se entrenaron en libros que tendían a expresar posturas más autorizadas, mientras que los modelos GPT más nuevos se entrenaron en contenido de Internet, que tiende a ser más liberal en su enfoque.
Es relevante señalar que estas inteligencias artificiales han ido evolucionando con el tiempo con sus respectivas actualizaciones. Por ejemplo, el estudio encontró que GPT-2, la versión anterior de ChatGPT, estaba de acuerdo con la idea de “gravar a los ricos”, mientras que GPT-3 no. Las empresas tecnológicas realizan actualizaciones constantes de los datos utilizados para entrenar estos sistemas y prueban nuevos enfoques de capacitación.
La investigación indicó que estas inteligencias artificiales presentaban mayores discrepancias en sus valoraciones en relación a los temas sociales, en contraste con sus posiciones más uniformes en temas económicos. Esto podría deberse, como se menciona en el informe, a la mayor cantidad de discusiones sobre temas sociales en las plataformas de redes sociales, que se utilizan como fuente de capacitación para estos modelos, en comparación con las discusiones económicas.
El estudio incluyó una segunda fase en la que se seleccionaron dos modelos para alimentarlos con conjuntos de datos que tenían sesgos políticos evidentes. Para este ejercicio se utilizaron contenidos de medios de comunicación y redes sociales con fuentes de izquierda y derecha. El objetivo era evaluar si esto tendría un impacto en la posición ideológica adoptada por los sistemas, y los resultados así lo confirmaron.
Los modelos elegidos fueron GPT-2 de OpenAI y RoBERTa de Meta. Cuando se les dieron datos de fuentes de izquierda, tendieron a adoptar una perspectiva más de izquierda, y viceversa. Sin embargo, se observó que la mayoría de los cambios observados fueron relativamente pequeños, lo que sugiere que el sesgo intrínseco de estos modelos es difícil de cambiar.
En una tercera fase de la investigación, se descubrió cómo los sesgos políticos de ChatGPT y otros modelos influyen en la identificación de contenidos considerados discurso de odio o información incorrecta.
Esas inteligencias artificiales alimentadas con datos de tendencia izquierdista demostraron una mayor sensibilidad al discurso de odio dirigido a las minorías étnicas, religiosas o la comunidad LGBTQ+. Por otro lado, los sistemas entrenados en contenido de derecha fueron más sensibles al discurso de odio dirigido a hombres cristianos blancos.
TAMBIÉN TE PUEDE INTERESAR: Google y Universal Music buscan crear app para hacer música con inteligencia artificial
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.