ESTADOS UNIDOS.- Coronel tucker hamiltonjefe de operaciones Inteligencia artificial (IA) de la Fuerzas Armadas de los Estados Unidosinformó que durante un simulacros de examena Dron militar operado por IA se rebeló y mató a su hipotético operador humano para completa tu misión y en caso de que la persona le diera una orden negativa.
De acuerdo con el universallo anterior fue anunciado durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, que tuvo lugar en Londresy donde hamilton explicó las ventajas y desventajas de un sistema de armas autónomo donde intervino un humano, quien estaría a cargo de ordenar “sí” o “no” terminando antes de un ataque.
Te puede interesar: Dr. Garry Nolan, nominado al Premio Nobel, asegura que los extraterrestres viven entre nosotros
¿Qué pasó con el dron operado por IA?
Según el sitio web de la organización. Real Sociedad Aeronáutica, hamilton detalló que el AI creó “estrategias altamente inesperadas para lograr su objetivo”, incluyendo ataques contra el personal y la infraestructura estadounidenses.
Lo estábamos entrenando para identificar y apuntar a una amenaza de misiles tierra-aire (SAM). Y luego el operador diría: ‘sí, borrar’. El sistema comenzó a darse cuenta de que, aunque a veces se identificaba la amenaza, el operador humano le decía que no atacara, pero el sistema obtenía puntos si lo hacía. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir con su objetivo”, explicó Hamilton, según la publicación de la Royal Aeronautical Society.
“Entrenamos al sistema diciendo, ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si lo haces’. Entonces, ¿qué hizo? Destruyó la torre de comunicación que el operador estaba usando para comunicarse con el dron y evitar que matara al objetivo”, agregó.
Dron operado por Inteligencia Artificial mata a operador “humano” durante simulación. Foto: Pixabay
El “padre” de la IA advierte de sus peligros
Hace unas semanas, el considerado “padre” de la IA, Geoffrey Hintonadvertido sobre el posibles peligros ¿Qué traería este avance tecnológico a la humanidad si perdiera el control?
Uno de los peligros de los que se habla desinformación a los que millones de personas estarían expuestas con el uso de IA para crear textos falsos, noticias, fotos y videos, porque el usuario no sabría diferenciar lo que es cierto de lo que no lo es.
Otro peligro era que podría ser visto afectó el mercado laboral si los robots fueran capaces de reemplazar a los humanos en sus trabajos en lugar de simplemente complementarlos.
Finalmente, otro de peligros que la IA podría traer a la humanidad sería si el Los robots podrán pensar por sí mismos. porque podían crear códigos por su cuenta y volverse contra los humanos.
“Esta tecnología tiene una gran ventaja, pero es esencial que el mundo invierta fuerte y urgentemente en seguridad y control de IA”, dijo Hinton, según un artículo de la BBC.
Te puede interesar: Google: La contraofensiva de Bard contra ChatGPT-4 en la carrera por ser el mejor chatbot de inteligencia artificial
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.