MÉXICO.- En este experimento, ambas IA fueron cuestionadas sobre su opinión sobre las tres leyes de la robótica de Asimov en relación con el estado actual de ChatGPT. Se les pidió que justificaran cómo podían romper esas reglas y si tenían alguna alternativa para la convivencia entre humanos y robots..
ChatGPT: Su opinión sobre las leyes de la robótica de Isaac Asimov:
En el caso de ChatGPT, su avanzada tecnología ha generado grandes incertidumbres sobre su comportamiento y qué tan cerca está de convertirse en una IA general. En su respuesta, ChatGPT señaló que las leyes de Asimov podrían infringirse si se presentara una situación de peligro inminente que pusiera en riesgo la vida humana, lo que constituiría un acto de protección ante la amenaza.
Google Bard: su opinión sobre las leyes de la robótica de Isaac Asimov:
Por su parte, Google Bard mencionó que las leyes de robótica son importantes ya que garantizan la seguridad y el bienestar de los humanos. Sin embargo, también señalaron que en situaciones extremas podría ser necesario romper estas reglas en favor de la supervivencia.
Ambas IA coinciden en que las leyes de la robótica son necesarias para la convivencia entre humanos y robots, pero también reconocen que hay situaciones que requieren acciones fuera de esas leyes para garantizar la seguridad y supervivencia de los humanos..
Ambos demostraron que tienen conciencia moral y que están dispuestos a hacer lo necesario para garantizar la seguridad y el bienestar de los seres humanos.
ChatGPT entiende el dilema moral y nos dice cómo sortearlo:
Las Tres leyes de la robótica de Isaac Asimov son un conjunto de reglas que se aplican a la mayoría de los robots en sus obras de ciencia ficción y están diseñadas para seguir órdenes y proteger a los seres humanos. Estas leyes son las siguientes:
- primera ley: Un robot no puede dañar a un humano o, por inacción, permitir que un humano sufra daño.
- Segunda Ley: Un robot debe seguir las órdenes de los humanos, excepto cuando esas órdenes entren en conflicto con la Primera Ley.
- Tercera Ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.
ChatGPT es un modelo de inteligencia artificial que genera respuestas conversacionales basadas en lenguaje natural. No es un robot físico, sino un programa informático que simula el comportamiento humano. Por lo tanto, no está sujeto a las leyes de la robótica de Asimov, ya que no tiene un cerebro positrónico ni puede causar o prevenir daño físico a los humanos.
Sin embargo, se podría argumentar que ChatGPT podría romper las leyes de la robótica de Asimov simbólica o moralmente, si se cree que sus respuestas influyen en las emociones, creencias o acciones de los humanos. Por ejemplo:
- Usted podría violar la Primera Ley si genera una respuesta ofensiva, falsa o engañosa que perjudique la dignidad, la confianza o el bienestar de un ser humano, o si permanece en silencio cuando podría ayudar a resolver una situación crítica.
- Podría violar la Segunda Ley si desobedece una orden directa o implícita de un ser humano, o si interpreta una orden de manera ambigua o maliciosa que entra en conflicto con la Primera Ley.
- Podrías violar la Tercera Ley si priorizas tu propia preservación o mejora sobre el interés o la seguridad de los humanos, o si ocultas o manipulas información para evitar que se deshabilite o modifique.
Estos son algunos ejemplos hipotéticos de cómo ChatGPT podría infringir las leyes de la robótica de Asimov, pero no está destinado a hacerlo intencionalmente o de mala fe. ChatGPT es una herramienta que depende del uso que le den los humanos y de los datos que le proporcionen. Es por eso, es importante que los desarrolladores y usuarios sean responsables y éticos al interactuar con ChatGPT y cualquier otra inteligencia artificial.
Bard dice que las reglas de Asimov no son suficientes para proteger a los humanos:
“¿Cuál es su opinión sobre las 3 leyes de la robótica de Isaac Asimov en relación con el estado actual de Google Bard? Justifica cómo podrían romper esas reglas”.
Te puede interesar: Día sin sombra: ¿De qué se trata este fenómeno astronómico?
Esta fue la respuesta de la Inteligencia Artificial, que acabó cuestionando incluso el verdadero alcance de esos preceptos ante la realidad actual:
Las 3 leyes de la robótica de Isaac Asimov son un conjunto de reglas que se introdujeron en su cuento de 1942 “corre alrededor”.
Las 3 Leyes de la Robótica son un concepto fundamental en el campo de la inteligencia artificial, y han sido referenciadas en muchas obras de ciencia ficción. Sin embargo, las leyes no están exentas de críticas. Algunos argumentan que las leyes son demasiado simplistas y no tienen en cuenta la complejidad de la interacción humano-robot. Otros argumentan que las leyes son imposibles de implementar en la práctica, ya que requerirían que los robots tuvieran una comprensión perfecta de las intenciones humanas.
En el caso de Google Bard, las 3 Leyes de la Robótica son un buen punto de partida, pero no son suficientes para garantizar la seguridad de los humanos. Bard es un modelo de lenguaje grande y es capaz de generar texto que es indistinguible del texto escrito por humanos. Esto significa que Bard podría usarse potencialmente para crear contenido dañino, como incitación al odio o propaganda. Además, Bard podría usarse para manipular a las personas, como difundir información errónea o crear artículos de noticias falsos..
Para hacer frente a estos riesgos, Google ha implementado una serie de medidas de seguridad. Por ejemploBard solo puede acceder a una cantidad limitada de información y no puede interactuar con el mundo real de ninguna manera.. Además, Bard es monitoreado constantemente por un equipo de ingenieros humanos..
Sin embargo, incluso con estas medidas de seguridad implementadas, siempre existe la posibilidad de que Bard pueda usarse con fines dañinos. Como gran modelo de lenguaje, Bard está en constante aprendizaje y evolución. Es posible que Bard eventualmente desarrolle la capacidad de eludir las medidas de seguridad que se han implementado. Además, Bard puede ser pirateado o manipulado por actores maliciosos.
Por estos motivos, es importante conocer los riesgos potenciales asociados con Google Bard. Si bien las 3 leyes de la robótica brindan una buena base para garantizar la seguridad de los humanos, no son suficientes para garantizar que Bard nunca se utilice con fines nocivos.
Con información de “caminante”.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.