.
Os principais players no desenvolvimento de inteligência artificial, incluindo Amazon, Google, Meta, Microsoft e OpenAI, concordaram com novas salvaguardas para a tecnologia em rápida evolução, anunciou Joe Biden na sexta-feira.
Entre as diretrizes intermediadas pelo governo Biden estão marcas d’água para conteúdo de IA para facilitar a identificação e testes de terceiros da tecnologia que tentarão detectar falhas perigosas.
Falando na Casa Branca, Biden disse que o compromisso das empresas é “real e concreto” e ajudará a “desenvolver tecnologias seguras, protegidas e confiáveis” que beneficiam a sociedade e defendem valores.
“Os americanos estão vendo como a inteligência artificial avançada e o ritmo da inovação têm o poder de interromper empregos nas indústrias”, disse ele. “Esses compromissos são um passo promissor que temos muito mais trabalho a fazer juntos.”
O presidente disse que a IA traz “oportunidades incríveis”, além de riscos para a sociedade e a economia. O acordo, disse ele, enfatizaria três princípios fundamentais – segurança, proteção e confiança.
A Casa Branca disse que sete empresas americanas concordaram com os compromissos voluntários, que visam garantir que seus produtos de IA sejam seguros antes de lançá-los.
O anúncio ocorre quando os críticos acusam a expansão vertiginosa da IA de permitir que danos reais ocorram antes que as leis o alcancem. Os compromissos voluntários não são juridicamente vinculativos, mas podem criar uma brecha enquanto uma ação mais abrangente é desenvolvida.
Uma onda de investimento comercial em ferramentas de IA generativas que podem escrever textos convincentemente parecidos com os humanos e produzir novas imagens e outras mídias atraiu o fascínio do público, bem como a preocupação com sua capacidade de enganar as pessoas e espalhar desinformação, entre outros perigos.
As empresas de tecnologia concordaram com oito medidas:
-
Usando marca d’água em conteúdo de áudio e visual para ajudar a identificar o conteúdo gerado pela IA.
-
Permitir que especialistas independentes tentem forçar modelos a se comportarem mal – um processo conhecido como “red-teaming”.
-
Compartilhar informações de confiança e segurança com o governo e outras empresas.
-
Investir em medidas de cibersegurança.
-
Incentivar terceiros a descobrir vulnerabilidades de segurança.
-
Relatar riscos sociais, como usos inapropriados e preconceitos.
-
Priorizando a pesquisa sobre os riscos sociais da IA.
-
Usando os sistemas de IA mais avançados, conhecidos como modelos de fronteira, para resolver os maiores problemas da sociedade.
Os compromissos voluntários devem ser uma maneira imediata de lidar com os riscos antes de um esforço de longo prazo para fazer com que o Congresso aprove leis que regulem a tecnologia.
Alguns defensores dos regulamentos de IA disseram que a ação de Biden é um começo, mas é preciso fazer mais para responsabilizar as empresas e seus produtos.
“A história indica que muitas empresas de tecnologia não cumprem o compromisso voluntário de agir com responsabilidade e apoiar regulamentações rígidas”, disse um comunicado de James Steyer, fundador e CEO da organização sem fins lucrativos Common Sense Media.
As diretrizes, detalhadas em alto nível em um informativo divulgado pela Casa Branca, argumentaram alguns críticos, não vão longe o suficiente para abordar as preocupações sobre a forma como a IA pode impactar a sociedade e dão ao governo pouco ou nenhum remédio para aplicação se as empresas não as cumprirem. “Precisamos de uma deliberação pública muito mais abrangente e isso trará questões com as quais as empresas quase certamente não se comprometerão voluntariamente porque levaria a resultados substancialmente diferentes, que podem impactar mais diretamente seus modelos de negócios”, disse Amba Kak, diretor executivo do grupo de pesquisa do AI Now Institute.
“Uma deliberação a portas fechadas com atores corporativos resultando em salvaguardas voluntárias não é suficiente”, disse Kak. “O que esta lista cobre é um conjunto de problemas que são confortáveis para os negócios como de costume, mas também precisamos olhar para o que não está na lista – coisas como questões de concorrência, impactos discriminatórios desses sistemas. As empresas disseram que vão ‘pesquisar’ privacidade e preconceito, mas já temos corpos robustos de pesquisa sobre ambos – o que precisamos é de responsabilidade.”
Diretrizes voluntárias equivalem a pouco mais do que autorregulação, disse Caitriona Fitzgerald, vice-diretora do grupo de pesquisa sem fins lucrativos Electronic Privacy Information Center (Epic). Uma abordagem semelhante foi adotada com plataformas de mídia social, disse ela, e não funcionou. “É uma verificação interna de conformidade e é semelhante ao que vimos nas ordens de consentimento da FTC do passado, quando eles exigiam que o Facebook fizesse avaliações internas de impacto na privacidade e se tornassem apenas um exercício de verificação de caixas”.
O líder da maioria no Senado, Chuck Schumer, disse que apresentará uma legislação para regular a IA. Ele realizou uma série de briefings com funcionários do governo para educar os senadores sobre uma questão que atraiu o interesse bipartidário.
Vários executivos de tecnologia pediram regulamentação e vários foram à Casa Branca em maio para falar com Biden, a vice-presidente Kamala Harris e outras autoridades.
O senador Mark Warner disse que as diretrizes divulgadas na sexta-feira são um começo, mas que “precisamos de mais do que compromissos da indústria”.
“Embora frequentemente ouçamos os fornecedores de IA falarem sobre seu compromisso com a segurança e proteção, vimos repetidamente o lançamento acelerado de produtos que são exploráveis, propensos a gerar resultados não confiáveis e suscetíveis ao uso indevido”, disse Warner em comunicado.
Mas alguns especialistas e concorrentes iniciantes temem que o tipo de regulamentação que está sendo lançada possa ser uma benção para os pioneiros endinheirados liderados por OpenAI, Google e Microsoft, já que empresas menores são prejudicadas pelo alto custo de tornar seus sistemas de IA conhecidos como grandes modelos de linguagem aderem a restrições regulatórias.
O grupo comercial de software BSA, que inclui a Microsoft como membro, disse na sexta-feira que acolheu os esforços do governo Biden para estabelecer regras para sistemas de IA de alto risco.
“As empresas de software corporativo esperam trabalhar com o governo e o Congresso para promulgar uma legislação que aborde os riscos associados à inteligência artificial e promova seus benefícios”, disse o grupo em comunicado.
Vários países têm buscado maneiras de regulamentar a IA, incluindo legisladores da União Europeia que têm negociado regras abrangentes de IA para o bloco de 27 países.
Os detalhes da legislação europeia ainda estão sendo discutidos, mas a Lei de IA da UE contém regulamentos robustos que criariam proteções significativas ao consumidor contra o excesso, violações de privacidade e vieses de certos tipos de modelos de IA de alto risco.
Enquanto isso, as conversas nos EUA permanecem nos estágios iniciais. Fitzgerald, da Epic, disse que embora as diretrizes voluntárias sejam apenas uma de uma série de diretrizes que a Casa Branca divulgou sobre IA, ela teme que isso possa fazer com que o Congresso desacelere sua pressão para criar regulamentações. “Precisamos das regras da estrada antes que fique grande demais para regular”, disse ela.
O secretário-geral da ONU, António Guterres, disse recentemente que as Nações Unidas eram “o lugar ideal” para adotar padrões globais e nomeou um conselho que apresentará um relatório sobre as opções de governança global de IA até o final do ano.
O chefe das Nações Unidas também disse que acolheu os apelos de alguns países para a criação de um novo órgão da ONU para apoiar os esforços globais para governar a IA, inspirado em modelos como a Agência Internacional de Energia Atômica ou o Painel Intergovernamental sobre Mudanças Climáticas.
A Casa Branca disse na sexta-feira que já havia consultado sobre os compromissos voluntários com vários países.
A Associated Press contribuiu para esta história
.
