Esta declaración se produce después del éxito viral de ChatGPT de OpenAI, que ha contribuido a intensificar la carrera armamentista en la industria de la tecnología con respecto a la IA.
Un grupo de prominentes líderes de la industria en el Inteligencia artificial (AI), académicos e incluso algunas personalidades famosas, han llamado hoy a reducir el riesgo de una aniquilación global causada por la IA, argumentando que la amenaza de un evento de extinción causado por esta tecnología debería ser una prioridad. primera clase en general.
El Centro de Seguridad del AI ha emitido un breve comunicado en el que afirma que “mitigar el riesgo de extinción causado por la inteligencia artificial debe ser una prioridad global, junto con otros riesgos sociales a gran escala como pandemias y guerra nuclear“.
Esta declaración ha sido firmada, entre otros, por sam altman, director ejecutivo de OpenAI; Geoffrey Hinton, conocido como el “padrino” de AI; altos ejecutivos e investigadores Google DeepMind y antrópico; Kevin Scott, CTO de Microsoft; Bruce Schneier, pionero en seguridad y criptografía en Internet; Bill McKibben, defensor del clima; y el artista Grimes.
La IA puede convertirse en un problema aún mayor
La declaración destaca la preocupación generalizada sobre el peligro final de que la IA se vuelva loca. Los expertos en IA han afirmado que todavía estamos muy lejos de desarrollar la inteligencia artificial general de la ciencia ficción; los actuales chatbot Los de vanguardia se limitan principalmente a reproducir patrones basados en datos de entrenamiento proporcionados, sin tener ninguna capacidad de pensamiento propia.
Sin embargo, la avalancha de publicidad e inversión en el sector ha dado lugar a pedidos de regulación en esta etapa temprana de la era de inteligencia artificialantes de que ocurran desastres graves.
Esta declaración llega tras el éxito viral de ChatGPT de IA abierta, que ha contribuido a intensificar la carrera armamentista en la industria tecnológica en relación con la IA. En respuesta, cada vez más legisladores, grupos de defensa y expertos en tecnología han alzado la voz sobre la posibilidad de que una nueva generación de chatbots impulsados por IA difunda información errónea y desplace puestos de trabajo.
Geoffrey Hintoncuyo trabajo pionero ayudó a dar forma a los sistemas de inteligencia artificial actuales, reveló previamente en una entrevista con CNN que decidió dejar su puesto en Google e “informar” sobre la tecnología cuando “de repente” se dio cuenta de que estas cosas se estaban volviendo más inteligentes que nosotros.
Hendrycks comparó la declaración de hoy con las advertencias de los científicos nucleares que levantaron “banderas rojas sobre sus propias tecnologías que ellos mismos habían creado”.
TAMBIÉN TE PUEDE INTERESAR: Microsoft dice que el mayor peligro de la IA es el “Deepfake”
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.