.
EU / Difusão estável
Na quarta-feira, as autoridades da União Europeia votaram para implementar regulamentos propostos mais rígidos em relação à IA, de acordo com a Reuters. O rascunho atualizado da lei “AI Act” inclui a proibição do uso de IA na vigilância biométrica e exige que sistemas como o ChatGPT da OpenAI revelem quando o conteúdo foi gerado pela IA. Embora o rascunho ainda não seja vinculativo, ele dá uma forte indicação de como os reguladores da UE estão pensando sobre a IA.
As novas mudanças na proposta de lei da Comissão Europeia – que ainda não foram finalizadas – pretendem proteger os cidadãos da UE de ameaças potenciais relacionadas à tecnologia de aprendizado de máquina.
As mudanças ocorrem em meio à proliferação de sistemas generativos de IA que imitam as habilidades de conversação humana, como o ChatGPT e o GPT-4 da OpenAI, que desencadearam controversos pedidos de ação entre cientistas de IA e executivos do setor em relação a possíveis riscos sociais. No entanto, a Lei de IA proposta pela UE tem mais de 2 anos, portanto não é apenas uma resposta automática ao hype da IA. Inclui disposições que protegem contra outros tipos de danos causados pela IA que são mais fundamentados no aqui e agora do que uma aquisição hipotética da IA.
“Enquanto as grandes empresas de tecnologia estão soando o alarme sobre suas próprias criações, a Europa foi em frente e propôs uma resposta concreta aos riscos que a IA está começando a representar”, disse Brando Benifei, co-relator do projeto de lei. (Um co-relator é semelhante a um co-patrocinador de um projeto de lei no Congresso dos EUA, compartilhando com outra pessoa a responsabilidade de redigir e orientar a legislação proposta durante o processo legislativo.)
O novo rascunho da AI Act inclui uma disposição que proibiria as empresas de coletar dados biométricos (como fotos de usuários) das mídias sociais para fins de treinamento de reconhecimento facial. Notícias de empresas como Clearview AI usando essa prática para criar sistemas de reconhecimento facial atraíram severas críticas de defensores da privacidade em 2020. No entanto, a Reuters relata que essa regra pode ser uma fonte de discórdia com alguns países da UE que se opõem a uma proibição geral de IA em vigilância biométrica. .
O novo rascunho da UE também impõe medidas de divulgação e transparência na IA generativa. Serviços de síntese de imagem como Midjourney seriam obrigados a divulgar conteúdo gerado por IA para ajudar as pessoas a identificar imagens sintetizadas. O projeto de lei também exigiria que as empresas de IA generativa fornecessem resumos de material protegido por direitos autorais extraído e utilizado no treinamento de cada sistema. Embora a indústria editorial apoie essa proposta, de acordo com o The New York Times, os desenvolvedores de tecnologia argumentam contra sua viabilidade técnica.
Além disso, os criadores de sistemas generativos de IA seriam obrigados a implementar salvaguardas para evitar a geração de conteúdo ilegal, e as empresas que trabalham com “aplicativos de alto risco” devem avaliar seu impacto potencial nos direitos fundamentais e no meio ambiente. O atual rascunho da lei da UE designa sistemas de IA que podem influenciar os eleitores e as eleições como “de alto risco”. Ele também classifica os sistemas usados por plataformas de mídia social com mais de 45 milhões de usuários na mesma categoria, abrangendo plataformas como Meta e Twitter.
De acordo com a Reuters, a Microsoft e a IBM aplaudem as novas regras propostas pelos legisladores da UE, embora esperem um maior refinamento da legislação proposta. “Acreditamos que a IA requer proteções legislativas, esforços de alinhamento em nível internacional e ações voluntárias significativas de empresas que desenvolvem e implantam IA”, disse um porta-voz da Microsoft ao serviço de notícias.
No entanto, apesar dos crescentes pedidos de regulamentação de IA, algumas empresas como a Meta minimizaram as ameaças potenciais dos sistemas de aprendizado de máquina. Em uma conferência em Paris na quarta-feira, o cientista da Meta Chief AI, Yann LeCun, disse: “A IA é intrinsecamente boa porque o efeito da IA é tornar as pessoas mais inteligentes”.
Além disso, alguns críticos acham que o alarme sobre o risco existencial dos sistemas de IA é exagerado e serve apenas para ajudar empresas como a Microsoft e a OpenAI a obter captura regulatória – usando sua influência e influência para moldar os regulamentos a seu favor. Especialmente no que diz respeito à potencial regulamentação de IA baseada nos EUA, os críticos argumentam que permitir que os gigantes da tecnologia redijam as regras poderia prejudicar empresas menores e sufocar a concorrência.
A Comissão Europeia apresentou pela primeira vez o rascunho das regras do AI Act em abril de 2021, e alguns criticaram o ritmo lento dos regulamentos no cenário global, mas com a tecnologia mudando tão rapidamente, é difícil acompanhar. O chefe da indústria da UE, Thierry Breton, enfatizou a necessidade de uma ação rápida, em vez de atrasar o progresso. “A IA levanta muitas questões – social, ética e economicamente”, disse ele. “Mas agora não é hora de apertar nenhum ‘botão de pausa’. Pelo contrário, trata-se de agir rápido e assumir responsabilidades.”
Especialistas dizem que, após um debate considerável sobre as novas regras entre os países membros da UE, uma versão final da AI Act não é esperada até o final deste ano.
.
