O surgimento da inteligência artificial (IA) sem dúvida trouxe avanços significativos em vários campos, incluindo processamento de linguagem natural e geração de texto.
No entanto, com o crescente abuso da IA em ambientes acadêmicos, tornou-se aparente a necessidade de ferramentas para detectar o trabalho gerado pela IA.
Essas ferramentas visavam manter a integridade das instituições de ensino e garantir que os alunos produzissem seus próprios trabalhos originais.
Os’detectores escritos em IA’são precisos?
Infelizmente, à medida que o uso de’detectores de escrita AI’aumentou, consequências imprevistas começaram a surgir, resultando em controvérsia e acusações injustas.
Com o advento de modelos de linguagem poderosos, como o Chat GPT, os alunos podem gerar redações, relatórios e até artigos inteiros sem esforço, aproveitando os recursos da IA.
Esse comportamento antiético despertou preocupações entre os educadores e levou ao desenvolvimento de sistemas de detecção de IA para identificar instâncias de conteúdo gerado por IA.
Mas, recentemente, um usuário enviou ao GPTZero uma carta de 1963, que então se tornou viral em várias plataformas de mídia social.
Surpreendentemente, a ferramenta de detecção de IA marcou a carta como escrita por IA, causando um efeito cascata de descrença e preocupação.
Fonte (Clique/toque para ver)
O incidente levantou questões sobre a precisão e confiabilidade dos sistemas de detecção de IA que foram implementados para salvaguardar a integridade.
Na sequência da controvérsia da carta viral, vários indivíduos começaram a especular sobre os possíveis erros de julgamento cometidos pelos sistemas de detecção de IA (1,2,3,4,5).
Isso foi reforçado por um teste recente de The Washington Post no Turnitin, que afirma uma precisão geral de 98 por cento, errou mais da metade das redações.
Além disso, em outro teste no Writer, a Bíblia obteve apenas 11 pontos % de conteúdo gerado por humanos, enquanto copiar e colar do ChatGPT obteve 98% de conteúdo gerado por humanos.
Fonte (Clique/toque para ver)
Se um documento autêntico escrito por humanos, como a carta de 1963 e a Bíblia, puder ser sinalizado como gerado por IA, é plausível que inúmeros alunos possam ter enfrentado punições injustas devido à detecção errônea de IA.
Este foi exatamente o caso no Texas, onde um professor ganhou as manchetes ao reprovar uma classe inteira de alunos do último ano, alegando que todos eles usaram o’Chat GTP’para escrever suas tarefas.
Esta decisão levou ao bloqueio de sua graduação, deixando esses alunos devastados e seus futuros acadêmicos em risco.
Fonte (Clique/toque para visualizar)
O professor está explicando que usou sua própria conta ChatGPT para verificar as tarefas dos alunos. Se a IA afirmasse ter gerado o conteúdo, os alunos recebiam nota zero.
Esses casos podem ser vistos no Twitter, onde os alunos afirmam que foram reprovados injustamente porque o professor não entendeu como usar essas ferramentas ou devido a resultados errados deles (1,2,3).
Engraçado, quase fui reprovado em um curso de história na faculdade por causa de um desses detectores de plágio AI. A coisa falhou e acusou meu trabalho final sobre a Guerra de Toledo de ter sido escrito por algum autor eslavo que escreveu exclusivamente sobre o controle soviético da Europa Oriental.
Fonte
Em resposta a essas revelações alarmantes, um site educacional,’itwasntai.com,’foi criado para fornecer orientação a indivíduos que foram injustamente acusados de usar IA para escrever seus artigos.
Esta plataforma também visa educar os professores e capacitar aqueles que podem ter sido vítimas de sistemas de detecção de IA falhos.
Fonte (Clique/toque para visualizar)
A existência desse site enfatiza a necessidade urgente de uma revisão abrangente da detecção de IA ferramentas e o desenvolvimento de métodos mais precisos e confiáveis.
Essa controvérsia em torno de detectores escritos por IA inevitavelmente levantou preocupações sobre a confiança cega depositada nesses sistemas.
Surge a pergunta: se não podemos confiar totalmente no próprio conteúdo gerado por IA, por que confiamos cegamente nos detectores escritos por IA?
