El surgimiento de la inteligencia artificial (IA) sin duda ha generado avances significativos en varios campos, incluido el procesamiento del lenguaje natural y la generación de texto.
Sin embargo, con el creciente abuso de la IA en entornos académicos, se hizo evidente la necesidad de herramientas para detectar el trabajo generado por la IA.
Estas herramientas estaban destinadas a mantener la integridad de las instituciones educativas y asegurar que los estudiantes estuvieran produciendo su propio trabajo original.
¿Son precisos los’detectores escritos de IA’?
Desafortunadamente, a medida que aumentaba el uso de’detectores escritos de IA’, comenzaron a surgir consecuencias imprevistas, lo que resultó en controversia y acusaciones injustas.
Con la llegada de poderosos modelos de lenguaje como Chat GPT, los estudiantes podrían generar sin esfuerzo ensayos, informes e incluso documentos completos aprovechando las capacidades de la IA.
Este comportamiento poco ético despertó preocupaciones entre los educadores e impulsó el desarrollo de sistemas de detección de IA para identificar instancias de contenido generado por IA.
Pero recientemente, un usuario envió a GPTZero una carta de 1963, que luego se volvió viral en varias plataformas de redes sociales.
Sorprendentemente, la herramienta de detección de IA marcó la carta como escrita por IA, lo que provocó un efecto dominó de incredulidad y preocupación.
Fuente (Haga clic/toque para ver)
El incidente planteó dudas sobre la precisión y la confiabilidad de los sistemas de detección de IA que se habían implementado para salvaguardar la integridad.
A raíz de la controversia de la carta viral, varias personas comenzaron a especular sobre los posibles errores de juicio cometidos por los sistemas de detección de IA (1,2,3,4,5).
Esto se vio reforzado por una prueba reciente realizada por The Washington Post sobre Turnitin, que afirma tener un 98 por ciento de precisión en general, se equivocó en más de la mitad de los ensayos al menos parcialmente.
Además, en otra prueba en Writer, The Bible obtuvo solo 11 % de contenido generado por humanos, mientras que copiar y pegar de ChatGPT obtuvo un 98 % de contenido generado por humanos.
Fuente (haga clic en/toque para ver)
Si un documento auténtico escrito por humanos como la carta de 1963 y la Biblia pudiera marcarse como generado por IA, entonces es plausible que innumerables estudiantes hayan enfrentado castigos injustos debido a una detección errónea de IA.
Este fue exactamente el caso en Texas, donde un profesor apareció en los titulares al reprobar a toda una clase de estudiantes de último año, alegando que todos habían usado’Chat GTP’para escribir sus tareas.
Esta decisión condujo al bloqueo de su graduación, dejando a estos estudiantes devastados y su futuro académico en peligro.
Fuente (Haga clic/toque para ver)
El profesor explica que había usado su propia cuenta de ChatGPT para verificar las tareas de los estudiantes. Si la IA afirmaba haber generado el contenido, los estudiantes recibían una calificación de cero.
Estos casos se pueden ver en Twitter, donde los estudiantes afirman que reprobaron injustamente debido a que el maestro no entendió cómo usar estas herramientas o debido a resultados incorrectos de ellos (1,2,3).
Curiosamente, casi reprobé un curso de historia en la universidad debido a una de esos detectores de plagio de IA. La cosa falló y acusó a mi artículo final sobre la Guerra de Toledo de haber sido escrito por un autor eslavo que escribió exclusivamente sobre el control soviético de Europa del Este.
Fuente
En respuesta a estas alarmantes revelaciones, un sitio web educativo,’itwasntai.com, se estableció para brindar orientación a las personas que han sido acusadas injustamente de usar IA para escribir sus artículos.
Esta plataforma también tiene como objetivo educar a los maestros y capacitar a aquellos que pueden haber sido víctimas de sistemas de detección de IA defectuosos.
Fuente (Hacer clic/tocar para ver)
La existencia de dicho sitio web enfatiza la necesidad urgente de una revisión exhaustiva de la detección de IA herramientas y el desarrollo de métodos más precisos y confiables.
Esta controversia en torno a los detectores escritos por IA inevitablemente ha generado preocupaciones sobre la confianza ciega que se deposita en estos sistemas.
Surge la pregunta: si no podemos confiar plenamente en el contenido generado por IA, ¿por qué confiamos ciegamente en los detectores escritos por IA?
