Antropic crea una IA ética y autónoma: Claude, la pionera en tomar decisiones sin interferencia humana | Noticias de México

CIUDAD DE MÉXICO.- Antropic, una empresa formada por exinvestigadores de OpenAI, está abriendo un camino completamente diferente para la inteligencia artificial, enfocándose en desarrollar una IA capaz de determinar qué es mejor o peor con una mínima intervención humana. Según el informe de Decrypt, la IA llamó claudio ha sido diseñado con un “Constituciónúnico, un conjunto de reglas inspiradas en la Declaración Universal de los Derechos Humanos, con el objetivo de garantizar una conducta ética junto con una mejor funcionalidad. Además, la IA también se guía por otros estándares éticos similares a las reglas de Apple para desarrolladores de aplicaciones.

Una IA que aprende con o sin instructor pero a pasos agigantados:

Aunque el término “Constitución” podría ser más metafórico que literal, Claude se guía por un conjunto diferente de consideraciones que alinean su comportamiento con su constitución, desalentando acciones inapropiadas. Jared Kaplan, uno de los fundadores de Anthropic, explicó en una entrevista con Wired que la constitución de Claude “podría interpretarse como un conjunto específico de parámetros de entrenamiento, que cualquier entrenador usa para modelar su IA“.

El proceso de formación Antrópica se describe en un artículo de investigación llamado “IA constitucional: inocuidad de la retroalimentación de la IA”que explica una forma de crear una IA útil que, una vez entrenada, puede mejorar sin comentarios humanos, identificar comportamientos inapropiados y adaptar su propio comportamiento.

Superior a ChatGPT y Bard en poder tomar decisiones éticas:

Estos avances en inteligencia artificial van mucho más allá de las capacidades de ChatGPT y Bard. El objetivo de Anthropic es hacer que su IA sea lo suficientemente avanzada para tomar decisiones éticas, un punto crucial para el futuro desarrollo de la inteligencia artificial. Utilizando este enfoque centrado en la ética, el equipo de Anthropic espera que su IA esté mejor preparada para tomar decisiones en un mundo complicado y cambiante, al menos considerando que el mundo opera bajo ciertos códigos éticos y de derechos humanos.

Una IA que puede almacenar más información que nadie:

En particular, Claude puede manejar más de 100 mil tokens de información, mucho más que ChatGPT, Bard o cualquier otro modelo de lenguaje grande competente o chatbot de IA actualmente disponible.

En el ámbito de la IA, un token generalmente se refiere a un dato, como una palabra o un carácter, que el modelo procesa como una unidad discreta. La habilidad simbólica de Claude le permite manejar conversaciones largas y tareas complejas, lo que lo convierte en una presencia formidable en el panorama de la IA. Por contexto, podría proporcionar fácilmente un libro completo como mensaje y sabría qué hacer.

Anthropic busca crear una IA que pueda discernir y tomar sus propias decisiones:

En conclusión, Anthropic es una empresa que busca desarrollar una solución de IA completamente diferente, enfocada en crear una IA ética que actúe apropiadamente y pueda desarrollar un comportamiento ético. Una IA que pueda entender lo que está bien y lo que está mal y pueda tomar decisiones éticas con la menor intervención humana posible. Su método de entrenamiento y su enfoque ético son un paso adelante en el desarrollo de la inteligencia artificial.

Te puede interesar: El fin del mundo: los científicos predicen cuándo el Sol se tragará la Tierra.