.
Deepfakes, reconhecimento facial e ameaça existencial: políticos, vigilantes e o público devem enfrentar questões assustadoras quando se trata de regular a inteligência artificial.
A regulamentação de tecnologia tem um histórico de atraso na indústria, com a lei de segurança online do Reino Unido e a Lei de Serviços Digitais da UE chegando apenas quase duas décadas após o lançamento do Facebook. A IA também está avançando. O ChatGPT já tem mais de 100 milhões de usuários, o papa está de jaqueta e uma série de especialistas alertaram que a corrida da IA está ficando fora de controle.
Mas pelo menos a União Europeia, como costuma acontecer com a tecnologia, está começando com a Lei da IA. Nos EUA, o líder da maioria no Senado, Chuck Schumer, publicou uma estrutura para o desenvolvimento de regulamentos de IA, que prioriza objetivos como segurança, responsabilidade e inovação – com ênfase no último. No Reino Unido, Rishi Sunak convocou uma cúpula global sobre segurança de IA para o outono. Mas a Lei de IA da UE, que está sendo elaborada há dois anos, é a primeira tentativa séria de regulamentar a tecnologia.
De acordo com a lei, os sistemas de IA são classificados de acordo com o risco que representam para os usuários: risco inaceitável; alto risco; risco limitado; e mínimo ou nenhum risco. Eles são então regulados de acordo. Quanto maior o risco – mais regulamentação.
A UE é franca sobre os sistemas que representam um “risco inaceitável”: eles serão banidos. Risco inaceitável inclui sistemas que manipulam pessoas, com a UE citando o exemplo bastante distópico de brinquedos ativados por voz que encorajam comportamentos perigosos em crianças; “pontuação social”, ou os governos classificam as pessoas com base no status socioeconômico ou nas características pessoais (para evitar cenários como em Rongcheng, na China, onde a cidade classifica aspectos do comportamento dos residentes). Também inclui sistemas de policiamento preditivo com base em perfis, localização ou comportamento criminoso anterior; e sistemas de identificação biométrica, como reconhecimento facial em tempo real.
Alto risco Os sistemas de IA são aqueles que “afetam negativamente a segurança ou os direitos fundamentais”. Eles serão avaliados antes de serem colocados no mercado e serão verificados enquanto estiverem em uso. A categoria de alto risco inclui sistemas usados na educação (como pontuação em exames); operação de infraestrutura crítica; aplicação da lei (como avaliar a confiabilidade das evidências); e gestão de asilo, migração e controlo de fronteiras. Também inclui sistemas usados em produtos que se enquadram na legislação de segurança de produtos da UE, como brinquedos, carros e dispositivos médicos. (Os críticos argumentam que o tempo e o dinheiro necessários para cumprir essas regras podem ser assustadores para as startups em particular.)
Risco limitado os sistemas terão que cumprir “requisitos mínimos de transparência” e os usuários devem ser informados quando estiverem interagindo com IA, incluindo sistemas que geram conteúdo de imagem, áudio ou vídeo como deepfakes. O parlamento da UE cita propostas específicas para IA generativa (ferramentas como ChatGPT e Midjourney que produzem textos e imagens plausíveis em resposta a comandos humanos). O conteúdo gerado por IA terá que ser sinalizado de alguma forma (a UE quer que o Google e o Facebook comecem a fazer isso imediatamente). E as empresas de IA terão que publicar resumos dos dados protegidos por direitos autorais usados para treinar esses sistemas de IA (ainda não sabemos muito sobre isso).
Risco mínimo ou nenhum sistemas, como AI usado em videogames ou filtros de spam, não terão obrigações adicionais sob o ato. A Comissão Europeia diz que a “grande maioria” dos sistemas de IA usados na UE se enquadra nessa categoria. As violações da lei podem ser punidas com multas de € 30 milhões ou 6% do faturamento global. (A Microsoft, por exemplo, registrou receita de US$ 198 bilhões no ano passado.)
Negócio arriscado
À medida que abundam os temores existenciais sobre o rápido crescimento dessa tecnologia e os gigantes da tecnologia competem em uma corrida armamentista de IA, os governos estão começando a considerar seriamente os avisos sobre IA e as questões que ela levanta, como meu colega Alex Hern e eu relatamos na semana passada. A nova lei de IA da UE, por sua vez, aborda questões semelhantes.
O que isso fará com os modelos de fundação?
Os modelos básicos sustentam ferramentas de IA generativas, como o ChatGPT, e são treinados em grandes quantidades de dados. O rascunho do parlamento europeu exigirá que serviços como o ChatGPT registrem as fontes de todos os dados usados para “treinar” a máquina.
Para combater o alto risco de violação de direitos autorais, a legislação obrigará os desenvolvedores de chatbots de IA a publicar todos os trabalhos de cientistas, músicos, ilustradores, fotógrafos e jornalistas usados para treiná-los. Eles também terão que provar que tudo o que fizeram para treinar a máquina estava de acordo com a lei.
Eles acrescentam que os “implantadores” dos sistemas devem ter supervisão humana e procedimentos de reparação para essas ferramentas. Isso também inclui a realização de uma “avaliação de impacto nos direitos fundamentais” antes que o sistema seja colocado em uso.
Quando se tornará lei e o que é o “efeito Bruxelas”?
A UE espera chegar a um acordo sobre o projeto final até o final do ano, depois que os eurodeputados votaram em meados de junho para aprovar uma versão alterada do projeto originalmente apresentado pela Comissão Europeia. Agora há negociações trilaterais entre a comissão, os presidentes do comitê de IA do parlamento da UE e o Conselho da União Europeia para aprimorar a legislação.
Lisa O’Carroll é correspondente do Guardian em Bruxelas e tem acompanhado o ato de perto. Lisa disse-me que o reconhecimento facial em tempo real, banido pelas propostas do MPE, será uma questão controversa, observando que: “As forças policiais e os ministérios do interior veem o reconhecimento facial em tempo real como uma ferramenta importante na luta contra o crime e algumas infrações civis . Esse tipo de IA já está em vigor em partes da China, onde os motoristas são observados por excesso de velocidade, uso do celular ou cochilo ao volante”.
após a promoção do boletim informativo
Ela acrescentou: “E o governo francês está – de forma controversa – planejando usar o reconhecimento facial de IA em tempo real nas Olimpíadas do próximo verão para evitar ameaças potenciais, como aumento de multidões. Dragoş Tudorache, o co-relator do comitê de IA dos deputados, confirmou que esta lei teria que ser revertida se a lei de IA estivesse em vigor.
“A UE espera, mais uma vez, que sua regulamentação se torne o ‘padrão ouro’ para alguns dos players mais importantes, como Google e Facebook, simplesmente adotando as novas leis como sua estrutura operacional globalmente. Isso é conhecido como o ‘efeito Bruxelas’.”
É provável que o regulamento seja influente?
Charlotte Walker-Osborn, advogada de tecnologia especializada em IA, diz que a UE é influente na regulamentação de tecnologia globalmente – com leis como GDPR – e a Lei de IA terá peso. Mas outros países como EUA, Reino Unido e China já estão procurando introduzir suas próprias medidas, o que significará trabalho adicional para empresas de tecnologia, negócios e outras entidades que se enquadram em seu escopo.
“Sem dúvida, haverá muita legislação adicional e diferente fora do bloco da UE com a qual as empresas precisarão lidar”, diz ela. “Embora a lei da UE vá, de várias maneiras, definir o padrão, é claro que vários países fora da União Europeia estão elaborando seus próprios novos requisitos, com os quais as empresas também precisarão lidar.”
O que dizem os críticos?
Dame Wendy Hall, professora Regius de ciência da computação na Universidade de Southampton, diz que há uma alternativa ao ângulo focado no risco da UE, como a abordagem pró-inovação em um white paper do governo do Reino Unido em março. “Embora tenha havido algumas críticas de que a abordagem do Reino Unido não tem força suficiente, sou muito mais solidária a essa abordagem do que à da UE”, disse ela. “Precisamos entender como construir uma IA responsável, confiável e segura, mas é muito cedo no ciclo de desenvolvimento da IA para sabermos definitivamente como regulá-la”, diz ela.
O que as empresas pensam?
Sam Altman, o executivo-chefe da OpenAI, a empresa americana por trás do ChatGPT, disse que a empresa “deixará de operar” na UE se não puder cumprir a lei, embora tenha apoiado publicamente a noção de auditorias e testes de segurança para alta capacidade. modelos de IA. A Microsoft, um dos principais financiadores da OpenAI, acredita que a IA “exige proteções legislativas” e “esforços de alinhamento em nível internacional” e acolheu as medidas para implementar a Lei de IA. O Google DeepMind, o braço de IA do gigante das buscas com sede no Reino Unido, diz que é importante que a lei “apoie a inovação da IA na UE”.
No entanto, um artigo publicado por pesquisadores da Universidade de Stanford alertou que empresas como Google, OpenAI e Meta, proprietária do Facebook, são “especialmente pobres” em fazer coisas como resumir dados protegidos por direitos autorais em seus modelos. “Descobrimos que os fornecedores de modelos de fundações cumprem de forma desigual os requisitos declarados do projeto de lei de IA da UE”, disseram os pesquisadores.
Se você quiser ler a versão completa do boletim informativo, inscreva-se para receber o TechScape em sua caixa de entrada todas as terças-feiras.
.
