.
Dois estudantes do ensino médio da Flórida foram presos em dezembro e acusados de crimes de terceiro grau por supostamente criarem nus falsos de seus colegas de classe. Um relatório por Com fio cita relatórios policiais dizendo que dois meninos, de 13 e 14 anos, são acusados de usar um “aplicativo de inteligência artificial” sem nome para gerar imagens explícitas de outros estudantes “com idades entre 12 e 13 anos”. O incidente pode ser o primeiro caso nos EUA de acusações criminais relacionadas a imagens de nus geradas por IA.
Eles foram acusados de crimes de terceiro grau sob uma lei da Flórida de 2022 que criminaliza a disseminação de imagens sexualmente explícitas falsas sem o consentimento da vítima. Tanto as prisões quanto as acusações parecem ser as primeiras do tipo no país relacionadas ao compartilhamento de nus gerados por IA.
A mídia local noticiou o incidente depois que os alunos da Pinecrest Cove Academy em Miami, Flórida, foram suspensos em 6 de dezembro, e o caso foi denunciado ao Departamento de Polícia de Miami-Dade. De acordo com Com fioeles foram presos em 22 de dezembro.
Menores criando nus e imagens explícitas de outras crianças geradas por IA tornaram-se um problema cada vez mais comum nos distritos escolares de todo o país. Mas fora o incidente na Flórida, nenhum dos quais ouvimos ter levado a uma prisão. Atualmente, não existe nenhuma lei federal que aborde nudes deepfake não consensuais, o que fez com que os estados enfrentassem o impacto da IA generativa em questões de material de abuso sexual infantil, deepfakes não consensuais ou pornografia de vingança por conta própria.
No outono passado, o presidente Joe Biden emitiu uma ordem executiva sobre IA que pedia às agências um relatório sobre a proibição do uso de IA generativa para produzir material de abuso sexual infantil. O Congresso ainda não aprovou uma lei sobre pornografia deepfake, mas isso pode mudar em breve. Tanto o Senado quanto a Câmara apresentaram legislação, conhecida como Lei DEFIANCE de 2024, esta semana, e o esforço parece ter apoio bipartidário.
Embora quase todos os estados tenham agora leis que abordam a pornografia de vingança, apenas alguns estados aprovaram leis que abordam imagens sexualmente explícitas geradas por IA em vários graus. Vítimas em estados sem proteção legal também recorreram a litígios. Por exemplo, um adolescente de Nova Jersey está processando um colega de classe por compartilhar nus falsos de IA.
O Los Angeles Times relatou recentemente que o Departamento de Polícia de Beverly Hills está atualmente investigando um caso em que estudantes supostamente compartilharam imagens que “usavam rostos reais de estudantes em cima de corpos nus gerados por IA”. Mas como a lei estatal contra a “posse ilegal de matéria obscena sabendo que retrata uma pessoa com menos de 18 anos de idade envolvida ou simulando conduta sexual” não menciona explicitamente imagens geradas por IA, o artigo diz que não está claro se um crime foi cometido.
O distrito escolar local votou na sexta-feira pela expulsão de cinco estudantes envolvidos no escândalo, o LA Times relatórios.
.
