Expertos advierten sobre los problemas que esto puede causar, como desinformación, plagio y cuestionamientos al sistema educativo y judicial.
IA abierta usted ha dado de baja silenciosamente su herramienta Clasificador de IAdiseñado para detectar textos generados por inteligencia artificial, debido a su alta tasa de fallas, alcanzando una tasa de éxito de solo el 26% en algunos casos.
Esta decisión se esconde detrás de problemas que han sido recurrentes en la historia de la falsificación, ya que con el paso del tiempo, las copias generadas por IA se han vuelto más perfectas. haciéndolo difícil de detectar.
Ahora, los detectores se enfrentan al reto de identificar textos e imágenes que pueden ocultar millones de operaciones matemáticas realizadas por un AI.
ChatGPT y el fracaso de los bots
Este fracaso tiene implicaciones en el ámbito educativo, donde los estudiantes continúan entregando trabajos generados por chatbots como ChatGPTsin que los profesores puedan detectarlos a simple vista.
Sin embargo, los expertos advierten sobre los problemas que esto puede causar, como desinformación, plagio y dudas sobre el sistema. educativo y judicial
IA abierta lanzó ChatGPT primero y luego AI Classifier en enero de 2023, con la intención de tranquilizar a los usuarios sobre las capacidades del chatbot.
Sin embargo, el clasificador demostró tener limitaciones desde el principio, alcanzando solo un 26% de precisión. La empresa admitió que era imposible detectar de forma fiable todos los textos escritos por AI y, por tanto, se esperaba que fuera una versión provisional sujeta a mejoras.
Sin embargo, estas mejoras nunca llegaron y, finalmente, OpenAI decidió descontinuar el clasificador debido a su baja actuación.
El experto julio gonzaloProfesor de Lenguajes y Sistemas Informáticos de la Universidad Nacional de Educación a Distancia (UNED), explica que los chatbots generativos aprenden a clasificar textos a partir de ejemplos, proporcionándoles una amplia gama de textos generados tanto por humanos como por IA. Durante el entrenamiento, el sistema ajusta los valores de los parámetros según las predicciones que realiza en función de si es correcta o no. De esta manera, el chatbot puede predecir si un nuevo texto se parece más a ejemplos generados por humanos o generados por máquinas.
Este proceso de entrenamiento busca reconocer los patrones matemáticos que subyacen en la generación de textos e imágenes, que involucran cientos de millones de operaciones matemáticas sucesivas a partir de un modelo enorme.
TAMBIÉN TE PUEDE INTERESAR: Criptomonedas: las noticias más importantes de la semana
HoyCripto, es sitio un web dedicado a compartir lo último en noticias e información relacionada con criptomonedas, NFTs y Metaverso en general.