La inteligencia artificial (IA) es una de las tecnologías más emocionantes y revolucionarias de nuestro tiempo, y con el tiempo ha ido ganando terreno en diferentes sectores, generando debates sobre su capacidad para reemplazar a los humanos en el trabajo o en el trabajo. buen o mal uso que hacen con los anticipos.
Este 2023 fue la punta de lanza de la IA con las famosas GPT-4, y sobre todo el acercamiento a los usuarios más básicos con muchas utilidades. Y aunque parece que todo es positivo en torno a la IA, el CEO de OpenAI (empresa desarrolladora de ChatGPT), Sam Altman, está mostrando su preocupación por los riesgos de esta tecnología tan avanzada.
Altman ha manifestado que hay que estar preparado para las consecuencias negativas que puede causar la inteligencia artificial, siendo este mensaje algo que podría disparar alertas ya que quien lo está exponiendo es una persona que está dentro de la IA que está ganando dinero con ella. Parece que su ética va por delante.
Hoy en día, todos usamos estas IA para resolver problemas matemáticos difíciles, generar textos para nosotros e incluso darnos presentaciones de PowerPoint gracias a Copilot en Microsoft 365. Pero con el tiempo se puede utilizar con fines ilegales, como ya hemos visto al crear correos electrónicos para obtener contraseñas.
“Estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala. Ahora que están mejorando en la escritura de códigos de computadora, [ellos] podría usarse para ataques cibernéticos ofensivos. Creo que la gente debería estar feliz de que estemos un poco asustados por esto”, explica Sam Altman.
Estas declaraciones se realizaron tras el lanzamiento de GPT-4, lo que ha supuesto un gran avance en cuanto a la comprensión de las entradas y también de las respuestas que genera. Si miras un texto que ha sido generado con este modelo de IA, puedes llegar a pensar que ha sido generado por un ser humano real e incluso haciéndose pasar por una gran empresa. Pero creemos que la frase “Creo que la gente debería estar feliz de que unos cuantos estemos asustados” demuestra que realmente quieren buscar una regulación para evitar grandes problemas que ya tienen en mente, publica el portal Genbeta.
Ante esto, se ha reafirmado que todo dependerá de los humanos detrás de esta IA, y que no todas las empresas podrán poner límites como lo hace ChatGPT a esta generación de texto. Y es que hay muchas empresas que están optando por ir libremente, como Microsoft, que ha optado por eliminar su departamento de ética relacionado con la IA, siendo una muy mala noticia para esta normativa.
Además, también hace un llamamiento sobre el problema de las alucinaciones de la IA. Este efecto es realmente interesante, ya que puede hacer que la IA declare algunos hechos que son completamente falsos, lo que lleva a respuestas extrañas. En concreto, lo explica de la siguiente manera:
“Lo que más trato de advertir a la gente es lo que llamamos el ‘problema de la alucinación’, el modelo afirma las cosas con confianza como si fueran hechos completamente inventados. La forma correcta de pensar sobre los modelos que creamos es un motor de razonamiento, no una base de datos de hechos.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.