.
Milhares de imagens geradas por IA retratando abuso infantil foram compartilhadas em um fórum da dark web, descobriu uma nova pesquisa.
Cerca de 3.000 IA imagens de abuso infantil foram compartilhadas no fórum em setembro, com 564 retratando os tipos mais graves de imagens, incluindo estupro, tortura sexual e bestialidade.
Das imagens, 1.372 retratavam crianças com idades entre sete e 10 anos, segundo pesquisa da Internet Watch Foundation (IWF).
A instituição de caridade disse que as imagens mais convincentes seriam até difíceis de serem distinguidas pelas fotografias por analistas treinados e alertou que a tecnologia de conversão de texto em imagem só vai melhorar – tornando mais difícil para a polícia e outras autoridades protegerem as crianças.
Algumas imagens retratam crianças reais cujos rostos e corpos foram usados para treinar os modelos de IA, que a instituição de caridade decidiu não nomear.
Em outros casos, os modelos foram usados para “nudificar” crianças com base em imagens delas totalmente vestidas, carregadas online.
Os criminosos também estão usando a tecnologia para criar imagens de celebridades que foram “rejuvenescidas” para retratá-las como crianças em cenários de abuso sexual.
‘Esta ameaça está aqui e agora’
Ian Critchley, líder do Conselho Nacional de Chefes de Polícia para a proteção infantil no Reino Unido, disse que a geração de tais imagens online normaliza o abuso infantil no mundo real.
“É claro que esta não é mais uma ameaça emergente – está aqui e agora”, disse ele.
“Estamos vendo crianças sendo preparadas, estamos vendo os perpetradores criarem suas próprias imagens de acordo com suas próprias especificações, estamos vendo a produção de imagens de IA para ganho comercial – tudo isso normaliza o estupro e o abuso de crianças reais”.
Use o navegador Chrome para um player de vídeo mais acessível
Vítimas online escrevem para chefes de tecnologia
O que pode ser feito a respeito?
A iminente situação do Reino Unido Projeto de lei de segurança on-line foi projetado para segurar mídia social plataformas mais responsáveis pelo conteúdo publicado em suas plataformas.
Mas não se estende às empresas de IA cujos modelos estão a ser alterados e utilizados para gerar imagens abusivas.
O governo do Reino Unido organizará uma cimeira sobre segurança da IA na próxima semana que visa abordar os riscos associados à IA e considerar que medidas são necessárias.
Susie Hargreaves, diretora executiva da IWF, disse que as novas leis da UE sobre abuso sexual infantil deveriam abranger imagens desconhecidas.
“Estamos vendo criminosos treinando deliberadamente sua IA em imagens de vítimas reais que já sofreram abusos”, disse ela.
“Crianças que foram violadas no passado estão agora a ser incorporadas em novos cenários porque alguém, em algum lugar, quer ver isso.”
Use o navegador Chrome para um player de vídeo mais acessível
‘Não entendemos como funciona a IA’
Políticos ‘apanhados a dormir ao volante’
Ellen Judson, chefe do centro de pesquisa digital do Demos, o think tank, disse: “Mais uma vez, os legisladores foram apanhados a dormir ao volante enquanto a IA generativa continua a transformar radicalmente a natureza dos danos online”.
Ela apelou ao governo para “estar na frente” na compreensão e regulamentação das ferramentas de IA, especificamente em torno da forma como são concebidas e desenvolvidas.
“Esperar que a próxima crise ocorra antes de responder simplesmente não é uma abordagem sustentável”, acrescentou.
Um porta-voz do Ministério do Interior disse: “O abuso sexual infantil online é um dos principais desafios da nossa época, e o aumento do material de abuso sexual infantil gerado pela IA é profundamente preocupante.
“Estamos trabalhando em conjunto com parceiros em todo o mundo para resolver esse problema, incluindo a Internet Watch Foundation.
“No mês passado, o ministro do Interior anunciou um compromisso conjunto com o governo dos EUA para trabalhar em conjunto para inovar e explorar o desenvolvimento de novas soluções para combater a propagação destas imagens doentias.”
.
