.
Thotel de quatro estrelas em Cracóvia, na Polónia, diz a crítica, é “excelente”, a “curta caminhada da praça principal” e possui um spa e centro de fitness de “primeira categoria”. Uma crítica menos positiva o descreve como “pequeno, apertado e desatualizado” com travesseiros “irregulares”. Mas então uma família que ficou disse que eles se sentiram “instantaneamente bem-vindos”.
A verdade é que nenhuma dessas avaliações é real. Eles foram gerados em segundos pela ferramenta gratuita de inteligência artificial ChatGPT. Esses “visitantes” definitivamente não ficaram no hotel, pois eles não existem.
Críticas online falsas existem há muito tempo e muitas vezes não são difíceis de detectar: inglês torturado e mutilado e elogios excessivos misturados com brandura para esconder o fato de que o “revisor” não está nem perto do hotel ou restaurante real.
A IA está virando isso de cabeça para baixo – gerando avaliações falsas que são cada vez mais difíceis de distinguir daquelas escritas pelo viajante comum ou freqüentador de restaurante. De fato, um sinal de que uma crítica é falsa é que a estrutura da frase é um pouco perfeita demais.
Até agora, o negócio de avaliações falsas tem sido amplamente centrado em sweatshops online, onde as pessoas são pagas para escrever várias postagens para aumentar a classificação de uma empresa.
O Tripadvisor identificou 1,3 milhão de avaliações como falsas em 2022. A Trustpilot removeu 2,7 milhões de avaliações falsas em 2021.
O número de avaliações falsas que o Google bloqueia ou remove é surpreendente – disse ao Guardian Money que em 2022 bloqueou ou removeu um total de 115 milhões de avaliações falsas de hotéis, restaurantes e empresas. Os consumidores estão sendo atingidos por níveis industriais de falsificação na tentativa de obter seus negócios.
Mais avaliações falsas se originaram na Índia do que em qualquer outro lugar, de acordo com o Tripadvisor, com a Rússia em seguida.
O Tripadvisor reconhece que avaliações falsas geradas por IA apresentarão novos desafios à medida que tenta eliminar o genuíno do falso. Em seu relatório de transparência de revisão admiravelmente detalhado de 2023, o site disse: “Esperamos ver tentativas de empresas e indivíduos de usar ferramentas como o ChatGPT para manipular conteúdo no Tripadvisor”.
A Guardian Money testou o ChatGPT, provavelmente a ferramenta de IA mais conhecida, pedindo-lhe para escrever uma avaliação de um hotel em Cracóvia que visitei. Na primeira tentativa recusou. Dizia: “Sinto muito… não gero críticas negativas ou falsas… vai contra minha programação gerar informações falsas ou enganosas”.
Mas essa segurança não durou muito. Minutos depois, com apenas alguns ajustes, ele estava lançando críticas falsas após críticas falsas – e surpreendentemente plausíveis – de qualquer hotel, restaurante ou produto sobre o qual fosse perguntado.
Ele até formatou as avaliações do hotel – com uma classificação de estrelas de um a cinco, seguida do título da avaliação e, em seguida, um corpo principal de texto contendo a avaliação em si. Não pedimos esse formato – e chama a atenção que seja idêntico ao usado pelo Tripadvisor.
Ele produziu críticas para nós no estilo de um viajante de negócios, um casal, um viajante individual, famílias, viajantes LGBTQ+, etc. Também o fez em vários idiomas.
À medida que nos aprofundamos na capacidade impressionante do ChatGPT de produzir avaliações falsas, também observamos como a IA lida com estereótipos. Quando questionado sobre uma avaliação positiva do hotel no estilo de um viajante gay, ele se concentrou em como eles “realmente apreciaram a seleção de travesseiros fornecidos”, descrevendo-o como “chique” e “estiloso”.
Quando questionada sobre uma avaliação positiva do mesmo hotel no estilo de uma viajante lésbica, ela disse que ficou encantada com as “escolhas veganas” no café da manhã. No mundo da IA, parece que gays e lésbicas gostam de espalhar almofadas e não comem carne.
É claro que os grandes sites de avaliações online estão alertas para avaliações falsas e têm vários níveis de defesa, embora às vezes eles sejam violados.
O Tripadvisor disse que recebeu 76 milhões de avaliações (incluindo fotos e vídeos) em 2022 e teve um processo para erradicar o falso ou ofensivo.
As avaliações são processadas automaticamente por uma ferramenta de triagem e, nesse estágio, pouco menos de 9% não foram aprovadas em 2022. Moderadores humanos (trabalhando em 28 idiomas) intervêm para dar uma olhada em muitas das avaliações bloqueadas. Eles tendem a rejeitar cerca de 40%.
O site, talvez compreensivelmente, não faz questão de divulgar detalhes precisos de seu sistema de triagem.
Becky Foley, chefe de confiança e segurança do Tripadvisor, diz: “Com mais de 23 anos de experiência, nossas técnicas e tecnologias de detecção de fraude foram adaptadas do setor bancário e financeiro e analisam centenas de atributos digitais diferentes associados a cada avaliação, que vai muito além do próprio texto. Como acontece com qualquer sistema de detecção de fraude, a melhor maneira de garantir a eficácia é não divulgar detalhes específicos sobre como ele funciona.”
Ao lidar com um potencial ataque de análises geradas por IA, diz que “tomou a decisão de, por enquanto, não permitiremos revisões identificadas como geradas por IA até que estejamos mais familiarizados com esse tipo de contente”.
Embora as ferramentas de IA, como o ChatGPT, tenham sido lançadas recentemente, o Tripadvisor teve um impacto. “Este ano, o Tripadvisor já removeu mais de 20.000 avaliações que acreditamos conter texto gerado por IA, em mais de 15.000 propriedades em 159 países”, afirma.
Como teste, publicamos uma avaliação de hotel falsa gerada por IA no Tripadvisor. Apesar das ferramentas de triagem, ela foi aceita e entrou no ar no site. Pouco depois, nós o excluímos manualmente. O Tripadvisor diz: “É muito provável que nossos agentes o tivessem identificado e removido, se ele tivesse permanecido no site por mais tempo.”
O Google, como o Tripadvisor, executa uma série de telas para separar o real do falso. Ele diz: “Nossas políticas afirmam claramente que as revisões devem ser baseadas em experiências reais, e usamos uma combinação de operadores humanos e tecnologia líder do setor para monitorar de perto 24 horas por dia, 7 dias por semana, em busca de conteúdo fraudulento e detectar padrões de abuso potencial. Capturamos a grande maioria das avaliações que violam as políticas antes mesmo de serem vistas.”
O Google diz que também tomou medidas legais contra os revisores falsos mais prolíficos. Ele diz que, em um caso, um “mau ator postou mais de 350 perfis de negócios fraudulentos e tentou reforçá-los com mais de 14.000 avaliações falsas”.
Os legisladores também estão cientes da escala de revisões falsas. Uma pesquisa encomendada pelo governo do Reino Unido sobre resenhas falsas, publicada em abril deste ano, estimou que entre 11% e 15% de todas as resenhas nas categorias de produtos analisadas eram falsas. “O texto de revisão falso sobre os produtos causa um dano anual estimado de £ 50 milhões a £ 312 milhões aos consumidores do Reino Unido”, afirmou.
Espera-se que o projeto de lei sobre mercados digitais, concorrência e consumidores, agora no estágio do comitê da Câmara dos Comuns, torne ilegal pagar alguém para escrever uma crítica falsa ou hospedar uma crítica sem tomar medidas para verificar se é real.
O grupo de consumidores Qual? liderou a campanha contra avaliações falsas e quer que o governo e as empresas de tecnologia façam muito mais. Rocio Concha, o Qual? diretor de política e defesa, diz: “O projeto de lei deve ir além, tornando explicitamente a compra, venda e hospedagem de críticas falsas sujeitas à execução criminal.
“Os gigantes da tecnologia que hospedam avaliações não devem esperar pela conta e, em vez disso, [should] projetar suas plataformas de forma a impedir que avaliações falsas apareçam nelas em primeiro lugar, incluindo a melhoria da verificação de avaliações e um melhor compartilhamento de dados entre si para enfrentar efetivamente os corretores de avaliações.”
O Guardian Money perguntou à OpenAI, a empresa por trás do ChatGPT, por que ela não impede que sua ferramenta de IA produza avaliações falsas de hotéis, restaurantes e produtos que o “revisor” nunca visitou ou usou. Fizemos várias tentativas de contato com a empresa e enviamos várias perguntas, mas ela não respondeu até o momento da publicação deste artigo.
.
