.
meio da jornada
Na quinta-feira, a OpenAI silenciosamente retirou seu AI Classifier, uma ferramenta experimental projetada para detectar texto escrito por IA. A desativação, notada pela primeira vez pelo Decrypt, ocorreu sem grande alarde e foi anunciada por meio de uma pequena nota adicionada à página oficial do classificador de IA da OpenAI:
A partir de 20 de julho de 2023, o classificador AI não está mais disponível devido à sua baixa taxa de precisão. Estamos trabalhando para incorporar feedback e atualmente pesquisando técnicas de proveniência mais eficazes para texto e nos comprometemos a desenvolver e implantar mecanismos que permitam aos usuários entender se o conteúdo de áudio ou visual é gerado por IA.
Lançado em 31 de janeiro em meio ao clamor de educadores sobre os alunos potencialmente usando o ChatGPT para escrever redações e trabalhos escolares, o AI Classifier da OpenAI sempre pareceu um Band-Aid performático em uma ferida profunda. Desde o início, a OpenAI admitiu que seu classificador de IA não era “totalmente confiável”, identificando corretamente apenas 26% do texto escrito por IA como “provavelmente escrito por IA” e rotulando incorretamente trabalhos escritos por humanos em 9% das vezes.
Como apontamos no Ars, os detectores de escrita AI, como o AI Classifier, Turnitin e GPTZero da OpenAI, simplesmente não funcionam com precisão suficiente para confiar neles para obter resultados confiáveis. A metodologia por trás de como eles funcionam é especulativa e não comprovada, e as ferramentas são usadas rotineiramente para acusar falsamente os alunos de trapacear.
Os humanos podem escrever como modelos de IA, e os modelos de IA podem escrever como humanos, se solicitados adequadamente. Freqüentemente, tudo o que é preciso para escapar dos detectores de IA é simplesmente pedir ao ChatGPT para escrever no estilo de um autor conhecido. Mas isso não impediu que uma pequena indústria de detectores comerciais de IA surgisse nos últimos seis meses.
“Se a OpenAI não consegue fazer sua ferramenta de detecção de IA funcionar, ninguém mais pode também,” tuitou Escritor de IA e futurista Daniel Jeffries. “Eu já disse antes que as ferramentas de detecção de IA são óleo de cobra vendido para as pessoas e isso é apenas mais uma prova de que são. Não confie nelas. Elas são um absurdo.”
Até agora, essas declarações foram apoiadas por estudos recentes (Sadasivan e outros., 2023) e depoimentos de educadores que muitas vezes descobrem que seu próprio trabalho escrito por humanos é sinalizado como composto por IA. Além disso, descobriu-se que os detectores de escrita de IA punem injustamente escritores ingleses não nativos e possivelmente escritores neurodivergentes.
A pesquisa ainda está em andamento para determinar se o texto gerado por IA pode ser marcado com marca d’água (manipulando propositalmente a frequência das palavras em uma saída gerada por IA), mas o estudo citado acima mostra que a marca d’água de texto pode ser facilmente derrotada por modelos de IA que parafraseiam a saída .
Por enquanto, parece que a escrita de IA veio para ficar. No futuro, o texto aumentado por IA provavelmente fluirá entre as grandes obras da humanidade de forma indetectável, se implantado com habilidade. Pode ser hora de olhar além de como o texto é composto e garantir que ele represente adequadamente o que um ser humano em particular deseja dizer, que é o objetivo de toda comunicação eficaz.
.
