.
O que você precisa saber
- A Meta planeja rotular imagens geradas por IA de outras empresas, aumentando a transparência em plataformas como Facebook, Instagram e Threads.
- Está colaborando com parceiros da indústria para criar ferramentas para detectar conteúdo produzido por IA, concentrando-se em marcadores invisíveis, como marcas d’água e metadados.
- A Meta planeja começar a aplicar rótulos em vários idiomas, especialmente porque eleições importantes ocorrerão em todo o mundo nos próximos meses.
Meta diz que vai colocar rótulos em imagens criadas por IA de outras empresas, como OpenAI e Google.
Nick Clegg, presidente de assuntos globais da Meta, escreveu em um blog que a empresa deseja ser mais transparente em plataformas como Facebook, Instagram e Threads quando se trata de IA generativa. O plano é permitir que os usuários saibam quando as imagens que estão vendo são geradas por IA.
Com muitos países se preparando para as eleições em 2024, todos estão de olho em como o Meta lidará com notícias falsas em suas plataformas.
À medida que a IA generativa se torna mais fácil de usar, imagens falsas aparecem nas redes sociais, fingindo ser reais. A Meta planeja enfrentar isso identificando e marcando imagens de IA em suas plataformas, mesmo que sejam feitas por outras empresas.
A Meta já coloca rótulos “Imaginado com IA” em suas próprias imagens fotorrealistas feitas por IA, e agora quer fazer isso também para imagens de outras ferramentas de IA. O truque com as imagens de IA do Meta é que elas têm marcadores visíveis, marcas d’água ocultas e metadados nos arquivos para indicar que são criações de IA.
De acordo com Clegg, a Meta está se unindo a parceiros da indústria para criar ferramentas que possam identificar conteúdo feito por IA usando “marcadores invisíveis”, como marcas d’água e metadados. O objetivo é acertar esses marcadores em escala para que, quando imagens do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock sejam compartilhadas em uma plataforma Meta, elas recebam o rótulo adequado.
“Estamos construindo esse recurso agora e nos próximos meses começaremos a aplicar rótulos em todos os idiomas suportados por cada aplicativo”, escreve Clegg. “Estamos adotando essa abordagem durante o próximo ano, durante o qual uma série de eleições importantes ocorrerão em todo o mundo”.
Quanto aos vídeos e áudio feitos por IA, Clegg menciona que as empresas não lançaram tantos sinais ocultos como fazem com as imagens. Portanto, o Meta ainda não consegue capturar vídeo e áudio produzidos por outras ferramentas de IA.
Dito isso, o Meta apresentará um recurso que permitirá aos usuários divulgar quando compartilham vídeo ou áudio feito por IA. Se você tiver vídeo ou áudio realista que foi editado ou ajustado digitalmente, será necessário usar esta ferramenta de divulgação. Meta pode impor algumas penalidades se você esquecer de fazê-lo.
De acordo com Clegg, se você estiver mexendo com imagens, vídeos ou áudio de uma forma que possa enganar seriamente as pessoas em assuntos importantes, o Meta atribuirá um rótulo mais proeminente a isso.
Para evitar que os usuários se esgueirem e removam esses marcadores, o laboratório de pesquisa FAIR AI da Meta desenvolveu um sistema que incorpora o mecanismo de marca d’água no processo de geração de imagem para determinados geradores, o que é útil para modelos de código aberto para evitar que a marca d’água seja desativada.
A Meta diz que está mantendo a colaboração com parceiros e mantendo a discussão com os governos à medida que a IA generativa se torna mais comum.
.
