.
O fabricante do ChatGPT, OpenAI, lançou uma ferramenta “classificadora” que pode detectar texto escrito por IA, mas observa que não deve ser confiável.
A amplitude de solicitações que o ChatGPT pode criar respostas alarmou os educadores, pois alguns alunos começam a entregar redações e trabalhos de casa gerados por IA como seu próprio trabalho.
Além disso: os detectores de IA podem nos salvar do ChatGPT? Eu tentei 3 ferramentas online para descobrir
A educação é um campo que pode se beneficiar do novo classificador da OpenAI, automatizando a detecção de redações e trabalhos de casa gerados por IA. Pode permitir uma resposta diferente do que dizer, restringindo seu uso como as escolas de Nova York fizeram recentemente. Departamentos escolares em toda a Austrália também baniram o ChatGPT.
O classificador também pode ajudar empresas como o site de perguntas e respostas do desenvolvedor, Stack Overflow, que baniu as respostas do ChatGPT depois que seus moderadores foram inundados com soluções às vezes corretas.
Embora o classificador possa eliminar algum trabalho de detecção, a OpenAI diz que é impossível detectar de forma confiável todo o texto escrito por IA e que há uma série de limitações que afetam sua eficácia.
O classificador identifica corretamente 26% do texto escrito por IA como “provavelmente escrito por IA” – sua verdadeira taxa positiva. Ele identifica incorretamente o texto escrito por humanos como escrito por IA 9% das vezes – seu falso positivo. Em outras palavras, há uma chance razoavelmente alta de falhar em detectar o texto enviado por um ser humano que não revela que foi escrito por IA e alguma chance de rotular erroneamente o texto de ambas as maneiras. Mas afirma que o classificador é “significativamente mais confiável no texto de sistemas de IA mais recentes” do que seu detector anterior baseado no GPT-2.
“Estamos disponibilizando este classificador publicamente para obter feedback sobre se ferramentas imperfeitas como esta são úteis”, disse a OpenAI em um comunicado à imprensa, acrescentando que espera que a ferramenta “provoque discussões sobre alfabetização em IA”.
Também: Melhores escritores de IA: ChatGPT e alternativas
A ferramenta gratuita de classificação da web está disponível aqui. Para usá-lo, os usuários precisam copiar e colar uma parte do texto na caixa de texto e clicar em enviar. Ele classificará o texto como ‘muito improvável’, ‘improvável’, ‘não está claro se é’, ‘possivelmente’ ou ‘provável’ gerado por IA.
O classificador precisa de pelo menos 1.000 caracteres – cerca de 150 a 250 palavras – para analisar um texto. O OpenAI avisa que é fácil editar o texto gerado pela IA para evitar programas de detecção. Além disso, é mais provável que a ferramenta rotule erroneamente o texto escrito por crianças e o texto não em inglês, porque foi treinado principalmente em conteúdo em inglês escrito por adultos.
Além disso, a OpenAI diz que “não avaliou completamente a eficácia do classificador na detecção de conteúdo escrito em colaboração com autores humanos”.
Ele diz que a ferramenta “não deve ser usada como ferramenta primária de tomada de decisão”, mas como complemento a outros métodos de determinação da fonte de um texto.
.
