.
Um relatório do The Wall Street Journal diz que a OpenAI, empresa criadora do ChatGPT, tem uma ferramenta que pode identificar ensaios escritos por sua IA generativa com bastante precisão. Agora, a empresa compartilhou um pouco mais sobre sua pesquisa sobre marca d’água de teste em uma atualização de uma postagem de blog e por que ainda não disponibilizou seu método de detecção. A OpenAI diz que suas equipes desenvolveram um método de marca d’água de texto que estão considerando, mas também estão procurando alternativas sobre maneiras de evitar que o texto escrito pelo ChatGPT seja usado em casos em que não deveria ser… (como se seu aluno do ensino médio de repente “aparecesse” com um ensaio épico).
De acordo com a OpenAI, a marca d’água é uma das soluções. A marca d’água pode incluir classificadores e metadados. A marca d’água é precisa, mas pode ser menos útil se você usar um sistema de tradução ou se você reformular o texto usando outro modelo generativo. Ela também pode ser ignorada se você pedir à IA para inserir um caractere específico após cada palavra e depois excluí-lo mais tarde (cara, alguns desses estudantes do ensino médio são criativos, isso já foi feito!)
A marca d’água em texto também pode afetar outros usuários, como por exemplo falantes não nativos de inglês que gostariam de refinar seu texto e usar IA para ajudá-los a escrever.
De acordo com a postagem do blog, a OpenAI vem considerando todos os aspectos da questão da procedência do texto.
Concordo com o fato de que abordar essa questão é algo complicado. Claro, não queremos que as crianças sejam incapazes de escrever uma redação sozinhas (ou qualquer texto com mais de 200 caracteres, nesse caso). Mas também há casos em que usar IA Generativa para escrever coisas é totalmente aceitável e não deveria ser um grande problema. Regular a IA é um dos desafios que enfrentamos conforme a tecnologia evolui e, em geral, deveríamos estar olhando mais para isso daqui para frente.
.
