O uso do chatbot é mais direto e talvez mais envolvente, diz Donald Findlater, diretor da linha de ajuda Stop It Now da Lucy Faithfull Foundation. Depois que o chatbot apareceu mais de 170.000 vezes em março, 158 pessoas clicaram no site da linha de ajuda. Embora o número seja “modesto”, diz Findlater, essas pessoas deram um passo importante. “Eles superaram muitos obstáculos para fazer isso”, diz Findlater. “Qualquer coisa que impeça as pessoas de começarem a jornada é uma medida de sucesso”, acrescenta Hargreaves, da IWF. “Sabemos que as pessoas estão usando. Sabemos que estão fazendo referências, sabemos que estão acessando serviços.”
O Pornhub tem uma reputação duvidosa pela moderação de vídeos em seu site, e relatórios detalham como mulheres e meninas vídeos de si mesmos enviados sem o seu consentimento. Em dezembro de 2020, o Pornhub removeu mais de 10 milhões de vídeos de seu site e começou a exigir que as pessoas enviassem conteúdo para verificar sua identidade. No ano passado, 9.000 peças de CSAM foram removidas do Pornhub.
“O chatbot da IWF é mais uma camada de proteção para garantir que os usuários sejam informados de que não encontrarão esse material ilegal em nossa plataforma, e encaminhá-los ao Stop It Now para ajudar a mudar seu comportamento”, diz um porta-voz do Pornhub, acrescentando que tem “tolerância zero” para material ilegal e tem políticas claras sobre CSAM. Os envolvidos no projeto de chatbot dizem que o Pornhub se ofereceu para participar, não está sendo pago para isso e que o sistema será executado no site do Pornhub no Reino Unido no próximo ano antes de ser avaliado por acadêmicos externos.
John Perrino, analista de políticas do Stanford Internet Observatory que não está conectado ao projeto, diz que houve um aumento nos últimos anos para construir novas ferramentas que usam “segurança por design” para combater danos online. “É uma colaboração interessante, em uma linha de política e percepção pública, para ajudar os usuários e direcioná-los para recursos e hábitos saudáveis”, diz Perrino. Ele acrescenta que nunca viu uma ferramenta exatamente como essa sendo desenvolvida para um site de pornografia antes.
Já existem evidências de que esse tipo de intervenção técnica pode fazer a diferença para desviar as pessoas de material potencial de abuso sexual infantil e reduzir o número de buscas por CSAM online. Por exemplo, já em 2013, o Google trabalhou com a Lucy Faithfull Foundation para introduzir mensagens de aviso quando as pessoas pesquisavam termos que pudessem estar vinculados ao CSAM. Houve uma “redução de treze vezes” no número de buscas por material de abuso sexual infantil como resultado dos avisos, disse o Google em 2018.
Um estudo separado em 2015 encontrou mecanismos de busca que implementaram medidas de bloqueio contra termos relacionados ao abuso sexual infantil viram o número de pesquisas diminuir drasticamente, em comparação com aquelas que não implementaram medidas. Um conjunto de anúncios projetados para direcionar as pessoas que procuram CSAM para linhas de ajuda na Alemanha teve 240.000 cliques no site e mais de 20 milhões de impressões em um período de três anos. Um estudo de 2021 que analisou mensagens pop-up de aviso em sites de jogos de azar descobriu que os nudges tinham um “impacto limitado”. única maneira de impedir que as pessoas encontrem material de abuso sexual infantil online. “A solução não é uma bala mágica que vai parar a demanda por abuso sexual infantil na internet. Ele é implantado em um ambiente específico”, diz Sexton. No entanto, se o sistema for bem-sucedido, ele acrescenta que pode ser implementado em outros sites ou serviços online.
“Há outros lugares que eles também procurarão, seja em vários sites de mídia social, seja em várias plataformas de jogos”, diz Findlater. No entanto, se isso acontecer, os gatilhos que fazem com que ele apareça teriam que ser avaliados e o sistema reconstruído para o site específico em que está. Os termos de pesquisa usados pelo Pornhub, por exemplo, não funcionariam em uma pesquisa do Google. “Não podemos transferir um conjunto de avisos para outro contexto”, diz Findlater.
