Confiar únicamente en el aprendizaje por refuerzo para la IA no es una solución adecuada a largo plazo. La clave para lograr la “alineación” (un término que se refiere a la convergencia de intereses entre la IA y los humanos) es comprender el funcionamiento interno de los modelos.
Cada año la Fundación Conferencia Sohn organiza un concurso de lluvia de ideas que también incluye expertos en tecnología y directores ejecutivos de nuevas empresas, quienes debaten y hacen suposiciones sobre lo que depara el futuro.
En esta ocasión, patrick colisióndirector de Stripe, entrevistó a su colega Sam Altman de IA abierta sobre los riesgos y posibilidades de la inteligencia artificial.
Además, reveló cuál es el uso más común que los usuarios le dan a su herramienta: “La función más frecuente de ChatGPT es resumir textos para mantenerse al día con los mensajes de correo electrónico y flojo“.
La conversación fue ganando intensidad y el primer tema tratado fue económico: World Coin, el proyecto de criptomonedas de Altman. En su opinión, la IA podría desencadenar un tremendo crecimiento económico real al identificar las inversiones y los diseños más productivos para las empresas.
Avances en varios campos de la ciencia.
De esta manera, la IA puede tener impactos económicos mucho más significativos y profundos. Altmann Citó como ejemplo que una IA capaz de asignar fondos de manera eficiente a la investigación del cáncer podría ahorrar miles de millones de dólares mientras acelera el progreso en la búsqueda de una cura.
El plato principal se sirvió de inmediato como el impacto de ChatGPT y todo eso IA abierta está haciendo en el ámbito de las búsquedas web.
“Los modelos lingüísticos van a cambiar significativamente la búsqueda en Internet, pero no representan una amenaza para la búsqueda. Solo amenazarían a Google si no tomara alguna medida al respecto y, obviamente, Google no se quedará de brazos cruzados”, dijo Altman.
Además, reveló que está desarrollando un programa que permite una conversación natural con los agentes de IA (programas como AutoGPTque utilizan modelos de lenguaje de forma autónoma, sin depender de humanos), lo que podría tener importantes implicaciones sociales.
Confiar únicamente en el aprendizaje por refuerzo para la IA no es una solución adecuada a largo plazo. La clave para lograr el “alineamiento” (término que se refiere a la convergencia de intereses entre los IA y humanos) consiste en comprender el funcionamiento interno de los modelos.
“Creo que los materiales nucleares y las supercomputadoras de IA tienen ciertas similitudes, y es en este campo donde podemos encontrar más paralelismos e inspiración que en otros. Sin embargo, también quiero advertir a las personas que eviten sacar conclusiones precipitadas. Estoy pensando, en concreto, en proponer algo parecido a un OIEA para la inteligencia artificial”, afirmó.
Por lo tanto, Altman entiende que si bien es necesario evitar la inspiración excesiva de tecnologías anteriores, es crucial establecer una agencia reguladora global para sistemas de entrenamiento de IA poderosos para garantizar la seguridad.
TAMBIÉN TE PUEDE INTERESAR: Superinteligencia artificial es inevitable, dicen creadores de ChatGPT
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.