.
OpenAI, o laboratório de pesquisa por trás do programa de IA ChatGPT, lançou uma ferramenta projetada para detectar se o texto foi escrito por inteligência artificial, mas alerta que não é totalmente confiável – ainda.
Em uma postagem de blog na terça-feira, o OpenAI vinculou a uma nova ferramenta classificadora que foi treinada para distinguir entre texto escrito por um humano e escrito por uma variedade de IA, não apenas ChatGPT.
Pesquisadores de IA aberta disseram que, embora seja “impossível detectar com segurança todo o texto escrito por IA”, bons classificadores podem detectar sinais de que o texto foi escrito por IA. A ferramenta pode ser útil nos casos em que a IA foi usada para “desonestidade acadêmica” e quando os chatbots da IA foram posicionados como humanos, disseram eles.
Mas eles admitiram que o classificador “não é totalmente confiável” e identificaram corretamente apenas 26% dos textos em inglês escritos por IA. Ele também rotulou incorretamente textos escritos por humanos como provavelmente escritos por ferramentas de IA em 9% das vezes.
“A confiabilidade do nosso classificador normalmente melhora à medida que o comprimento do texto de entrada aumenta. Comparado ao nosso classificador lançado anteriormente, esse novo classificador é significativamente mais confiável em textos de sistemas de IA mais recentes.”
Desde que o ChatGPT foi aberto ao acesso público, gerou uma onda de preocupação entre as instituições educacionais em todo o mundo de que poderia levar à trapaça em exames ou avaliações.
Os professores no Reino Unido estão sendo instados a revisar a maneira como seus cursos foram avaliados, enquanto algumas universidades baniram totalmente a tecnologia e retornaram aos exames de papel e caneta para impedir que os alunos usem IA.
Uma professora da universidade Deakin, na Austrália, disse que cerca de uma em cada cinco das avaliações que ela estava corrigindo durante o período de verão australiano usaram a assistência da IA.
Vários periódicos científicos também proibiram o uso do ChatGPT em textos para artigos.
A OpenAI disse que a ferramenta classificadora tinha várias limitações, incluindo sua falta de confiabilidade em textos com menos de 1.000 caracteres, bem como a identificação incorreta de alguns textos escritos por humanos como escritos por IA. Os pesquisadores também disseram que ele deve ser usado apenas para texto em inglês, pois tem um desempenho “significativamente pior” em outros idiomas e não é confiável na verificação do código.
“Não deve ser usado como uma ferramenta primária de tomada de decisão, mas sim como um complemento para outros métodos de determinação da fonte de um texto”, disse OpenAI.
A OpenAI apelou agora às instituições de ensino para partilharem as suas experiências com a utilização do ChatGPT nas salas de aula.
Embora a maioria tenha respondido à IA com proibições, alguns abraçaram a onda da IA. As três principais universidades da Austrália do Sul atualizaram no mês passado suas políticas para dizer que AI como o ChatGPT pode ser usado desde que seja divulgado.
.
