.
Strong The One
A Administração do Ciberespaço da China emitiu recentemente regulamentos que proíbem a criação de mídia gerada por IA sem rótulos claros, como marcas d’água – entre outras políticas – relata o The Register. As novas regras fazem parte da resposta em evolução da China à tendência generativa de IA que varreu o mundo da tecnologia em 2022 e entrarão em vigor em 10 de janeiro de 2023.
Na China, a Administração do Ciberespaço supervisiona a regulamentação, supervisão e censura da Internet. Sob os novos regulamentos, o governo ficará de olho no que chama de tecnologia de “síntese profunda”.
Em um post de notícias no site do Escritório da Comissão Central de Assuntos do Ciberespaço da China, o governo delineou suas razões para emitir o regulamento. Ele apontou para a recente onda de IA de síntese de texto, imagem, voz e vídeo, que a China reconhece como importante para o crescimento econômico futuro (tradução via Google Tradutor):
Nos últimos anos, a tecnologia de síntese profunda se desenvolveu rapidamente. Ao atender às necessidades do usuário e melhorar a experiência do usuário, ele também foi usado por algumas pessoas sem escrúpulos para produzir, copiar, publicar e disseminar informações ilegais e prejudiciais, caluniar e menosprezar a reputação e a honra de outras pessoas e falsificar a identidade de outras pessoas. A prática de fraude, etc., afeta a ordem de comunicação e a ordem social, prejudica os legítimos direitos e interesses das pessoas e põe em perigo a segurança nacional e a estabilidade social.
A introdução do “Regulamento” é uma necessidade para prevenir e resolver riscos de segurança, é também uma necessidade para promover o desenvolvimento saudável de serviços sintéticos aprofundados e melhorar o nível de capacidades de supervisão.
De acordo com os regulamentos, novos produtos de síntese profunda estarão sujeitos a uma avaliação de segurança do governo. Cada produto deve ser encontrado em conformidade com os regulamentos antes de poder ser lançado. Além disso, a administração enfatiza particularmente a exigência de “marcas” óbvias (como marcas d’água) que denotam conteúdo gerado por IA:
Os provedores de serviços de síntese profunda devem adicionar sinais que não afetem o uso do conteúdo das informações geradas ou editadas em seus serviços. Os serviços que fornecem funções como diálogo inteligente, voz humana sintetizada, geração de rosto humano e cenas realistas imersivas que geram ou alteram significativamente o conteúdo da informação devem ser marcados com destaque para evitar confusão pública ou identificação incorreta.
É exigido que nenhuma organização ou indivíduo use meios técnicos para excluir, adulterar ou ocultar marcas relevantes.
Além disso, as empresas que fornecem tecnologia de síntese profunda devem manter seus registros legalmente compatíveis, e as pessoas que usam a tecnologia devem registrar contas com seus nomes reais para que sua atividade de geração possa ser rastreada.
Assim como os Estados Unidos, a China viu um boom de aplicativos baseados em IA. Por exemplo, uma das principais empresas de tecnologia da China, a Baidu, produziu um modelo de síntese de imagem semelhante ao DALL-E e Stable Diffusion.
Um número crescente de especialistas em tecnologia reconheceu recentemente que a China e os Estados Unidos enfrentam uma onda de IA generativa que pode representar desafios para estruturas de poder, permitir fraudes ou até mesmo adulterar nosso senso de história. Até agora, os dois países reagiram com reações quase polares opostas – os EUA com diretrizes não obrigatórias versus as restrições firmes da China.
Em 2019, a China publicou suas primeiras regras que tornavam ilegal a publicação de deepfakes de “notícias falsas” não marcadas. Essas regras entraram em vigor no início de 2020.
Listagem de imagem por Strong The One
.
