.
O FBI alertou na segunda-feira sobre o uso crescente de inteligência artificial para gerar vídeos falsos para uso em esquemas de sextortion que tentam assediar menores e adultos que não consultam ou coagi-los a pagar resgates ou cumprir outras exigências.
O flagelo do sextortion existe há décadas. Envolve um conhecido ou estranho on-line enganando uma pessoa para que forneça um pagamento, uma foto explícita ou com tema sexual ou outro incentivo por meio da ameaça de compartilhamento de imagens comprometedoras já obtidas ao público. Em alguns casos, as imagens em posse dos golpistas são reais e foram obtidas de alguém conhecido da vítima ou de uma conta que foi invadida. Outras vezes, os golpistas apenas afirmam ter material explícito sem fornecer nenhuma prova.
Depois de convencer as vítimas de que suas fotos explícitas ou comprometedoras estão na posse dos golpistas, os golpistas exigem alguma forma de pagamento em troca de não enviar o conteúdo a familiares, amigos ou empregadores. No caso de as vítimas enviarem imagens sexualmente explícitas como forma de pagamento, os golpistas costumam usar o novo conteúdo para manter o esquema funcionando pelo maior tempo possível.
Nos últimos meses, o FBI disse em um alerta publicado na segunda-feira, o uso de IA para gerar vídeos falsos que parecem mostrar pessoas reais envolvidas em atividades sexualmente explícitas cresceu.
“O FBI continua a receber relatórios de vítimas, incluindo crianças menores de idade e adultos não consentidos, cujas fotos ou vídeos foram alterados para conteúdo explícito”, escreveram as autoridades. “As fotos ou vídeos são divulgados publicamente nas redes sociais ou sites pornográficos com o objetivo de assediar as vítimas ou esquemas de sextortion”.
Eles continuaram escrevendo:
Em abril de 2023, o FBI observou um aumento nas vítimas de sextortion relatando o uso de imagens ou vídeos falsos criados a partir de conteúdo postado em seus sites de mídia social ou postagens na web, fornecidos ao ator mal-intencionado mediante solicitação ou capturados durante bate-papos por vídeo. Com base em relatos recentes de vítimas, os atores mal-intencionados normalmente exigiam: 1. Pagamento (por exemplo, dinheiro, vales-presente) com ameaças de compartilhar as imagens ou vídeos com familiares ou amigos de mídia social se os fundos não fossem recebidos; ou 2. A vítima enviar imagens ou vídeos reais com temas sexuais.
Software e serviços baseados em nuvem para criar os chamados vídeos deepfake são abundantes online e vão desde ofertas de código aberto disponíveis gratuitamente até contas de assinatura. Com os avanços da IA nos últimos anos, a qualidade dessas ofertas melhorou drasticamente a ponto de uma única imagem do rosto de uma pessoa ser tudo o que é necessário para criar vídeos realistas que usam a imagem da pessoa em um vídeo falso.
A maioria das ofertas de deepfake, pelo menos ostensivamente, inclui proteções projetadas para evitar o abuso de deepfake, por exemplo, usando uma verificação integrada projetada para impedir que o programa funcione em “mídia inapropriada”. Na prática, esses guarda-corpos costumam ser fáceis de contornar, e existem serviços disponíveis em mercados clandestinos que não vêm com as restrições.
Os golpistas geralmente obtêm fotos das vítimas nas mídias sociais ou em outros lugares e as usam para criar “imagens com temas sexuais que parecem realistas à semelhança de uma vítima e, em seguida, circulam nas mídias sociais, fóruns públicos ou sites pornográficos”, alertaram os funcionários do FBI. . “Muitas vítimas, incluindo menores de idade, não sabem que suas imagens foram copiadas, manipuladas e divulgadas até que outra pessoa as chamou a atenção. As fotos são enviadas diretamente às vítimas por atores maliciosos para sextortion ou assédio, ou até foi autodescoberto na Internet. Uma vez circulado, as vítimas podem enfrentar desafios significativos para impedir o compartilhamento contínuo do conteúdo manipulado ou a remoção da Internet.”
O FBI pediu às pessoas que tomem precauções para evitar que suas imagens sejam usadas em deepfakes.
“Embora aparentemente inócuos quando postados ou compartilhados, as imagens e vídeos podem fornecer aos atores maliciosos um suprimento abundante de conteúdo para explorar atividades criminosas”, afirmaram as autoridades. “Avanços na tecnologia de criação de conteúdo e imagens pessoais acessíveis on-line apresentam novas oportunidades para agentes mal-intencionados encontrarem e atingirem vítimas. Isso os deixa vulneráveis a constrangimento, assédio, extorsão, perda financeira ou revitimização contínua de longo prazo.”
As pessoas que receberam ameaças de sextortion devem reter todas as evidências disponíveis, principalmente capturas de tela, textos, gravações em fita, e-mails que documentem nomes de usuário, endereços de e-mail, sites ou nomes de plataformas usadas para comunicação e endereços IP. Eles podem relatar imediatamente o sextortion para:
.
