Desde el lanzamiento de ChatGPT y sus rivales, las opiniones sobre el chatbot de IA han estado divididas. Mientras que algunos sienten que es vital y ahorra tiempo, a otros les preocupa que las personas usen la IA para difundir información errónea y plagiar el trabajo. OpenAI, la compañía detrás del bot viral de IA ChatGPT y el generador de texto a imagen DALL-E, ha lanzado una nueva herramienta AI Classifier para identificar texto escrito por IA. En un comunicado de prensa, OpenAI detalla cómo se entrenó el clasificador, sus limitaciones y otras métricas. Consulta todos los detalles a continuación.
El clasificador de OpenAI distingue el texto de IA de la escritura humana
En un comunicado de prensa reciente, la compañía detalló cómo esta nueva herramienta de clasificador de IA está destinada a ayudar a las personas a identificar el texto de IA. La herramienta hace eso al recibir información de los usuarios y luego ejecutarla a través de sus datos entrenados para clasificarla como IA o contenido generado por humanos.
IA Classifier es un modelo de lenguaje y se ha entrenado en un conjunto de datos que comprende pares de texto escrito por personas y por IA sobre el mismo tema. OpenAI señala que se han recopilado datos humanos de varias fuentes que creen que están escritos por humanos. Este texto se ha dividido en indicaciones y respuestas sobre las cuales se generó el texto de IA para recopilar un conjunto de datos completo.
El clasificador de IA aún no es completamente confiable
Si bien la nueva herramienta está destinada a facilitarnos la vida (especialmente a los maestros y profesores) cuando se trata de IA, la compañía ha declarado claramente que el IA Classifier no es completamente confiable y es propenso a errores. En las evaluaciones internas de la empresa, el clasificador identificó correctamente el 26 % del texto escrito por IA como”probablemente escrito por IA”.
Además, identificó incorrectamente el 9 % del texto humano como escrito por IA. Si bien el margen de error es bastante bajo, es evidente que el clasificador no es infalible. Además, OpenAI menciona que no es confiable en textos cortos de menos de 1,000 caracteres.
“Nuestro clasificador tiene varias limitaciones importantes. No debe usarse como una herramienta principal para la toma de decisiones, sino como un complemento de otros métodos para determinar la fuente de un texto”. OpenAI
La herramienta tiene otras limitaciones , incluido el soporte solo para entradas en inglés, dificultad en textos predecibles y estar mal calibrado fuera de sus datos de entrenamiento. Por todas esas razones y más, este nuevo clasificador de IA no debe usarse todavía como una herramienta principal para la toma de decisiones. Sin embargo, a medida que pasa el tiempo, podemos esperar mejoras a medida que se alimentan más datos.
¿Cómo le va al clasificador OpenAI en nuestras pruebas?
El clasificador de texto AI de OpenAI (enlace del sitio web) es una herramienta en línea de uso gratuito. Por lo tanto, decidimos probarlo un poco y funciona tan bien como cabría esperar en esta etapa. Probé varios artículos de extensión moderada de nuestro sitio web. Estos incluyeron noticias y artículos destacados. Después de pegar el texto y ejecutar la herramienta, recibimos la respuesta”El Clasificador considera que es muy poco probable que el texto sea generado por IA”.
Para probar qué tan bien funciona, hice que ChatGPT escribiera una historia corta y usé el clasificador para ver si podía identificar que la historia fue escrita por su propio hermano de IA. Afortunadamente, dio la respuesta de que el texto fue”probablemente generado por IA”. Intenté lo mismo con otros textos como El mercader de Venecia de Shakespeare y la IA detectó una participación poco probable de la IA.
Como se mencionó anteriormente, OpenAI Classifier debería mejorar a medida que aumenta su conjunto de datos. Sin embargo, incluso hasta que eso suceda, eres libre de usar la herramienta y divertirte con ella. Entonces, ¿cuáles son sus pensamientos sobre los detectores de texto AI? ¿Sientes que son una necesidad en 2023? Deja tus dos centavos en los comentarios a continuación.
Deja un comentario
