.
O governador da Califórnia, Gavin Newsom, assinou na quarta-feira uma ordem executiva instruindo as agências estaduais a examinar os benefícios e riscos da inteligência artificial que pode gerar textos, imagens e outros conteúdos.
A ordem executiva prepara o terreno para uma potencial regulamentação em torno do que é conhecido como tecnologia de IA generativa, que já levantou preocupações sobre desinformação, plágio, preconceito e segurança infantil. O governador e os legisladores da Califórnia até agora têm sido cautelosos quanto à regulamentação de tecnologias que podem não compreender totalmente e ao impedimento das inovações empresariais que alimentam a economia do estado.
“Reconhecemos os benefícios e riscos potenciais que essas ferramentas permitem. Não estamos congelados pelos medos nem hipnotizados pelas vantagens”, disse Newsom em comunicado. “Estamos adotando uma abordagem humilde e perspicaz para esta tecnologia que está mudando o mundo.”
Empresas de tecnologia, incluindo Microsoft, Google e Meta, empresa controladora do Facebook, têm se esforçado para incorporar IA generativa em seus produtos, à medida que empresas como a OpenAI lançam ferramentas populares como o ChatGPT. A IA tem potencial para transformar vários setores, incluindo o governo estadual e a política.
A ordem executiva descreve as etapas que as agências estaduais podem tomar para compreender melhor a IA. De acordo com o pedido, o Departamento de Tecnologia da Califórnia, o Escritório de Dados e Inovação e outras agências estaduais devem examinar as maneiras mais significativas e benéficas pelas quais a IA generativa pode ser usada pelo estado dentro de 60 dias. O governador também ordenou que as agências analisassem os riscos potenciais da IA para indivíduos, comunidades e funcionários públicos. Têm até janeiro de 2024 para emitir diretrizes para a aquisição, utilização e formação necessárias para a utilização de IA generativa.
Darrell West, membro sênior do Centro de Inovação Tecnológica do programa de Estudos de Governança da Brookings Institution, disse que a ordem executiva era abrangente e poderia influenciar as ações tomadas por outros estados.
“A Califórnia é há muito tempo criadora de tendências e a ordem executiva do governador dá continuidade a essa tradição em IA”, disse West. “Se um grande estado fizer um grande movimento, isso forçará as empresas de tecnologia a acompanhá-lo, quer queiram ou não.”
Grupos de segurança infantil, como a organização sem fins lucrativos Common Sense Media, afirmam que vêem a ordem executiva como um primeiro passo, mas que os legisladores terão de aprovar legislação para combater os riscos da IA, incluindo imagens de abuso sexual infantil. Estas questões de segurança só serão “exacerbadas pela IA”, disse Jim Steyer, executivo-chefe da Common Sense Media.
“Temos que implementar proteções e grades importantes e você tem que fazer isso legislativamente”, disse ele.
A ordem executiva chega antes que executivos de tecnologia, incluindo o CEO da OpenAI, Sam Altman, o CEO da Meta, Mark Zuckerberg, o CEO do Google, Sundar Pichai, o CEO da Tesla, Elon Musk e outros, devam ir a Washington na próxima semana para um fórum de IA organizado pelo líder da maioria no Senado, Charles E. Schumer. (DN.Y.).
Newsom já havia sinalizado que está cauteloso em relação à regulamentação da IA. Em Los Angeles conferência em maio, ele disse que “o maior erro” que os políticos podem cometer é afirmar-se “sem primeiro procurar compreender”. Newsom também participou de uma mesa redonda sobre IA em junho com o presidente Biden, cuja administração se reuniu com executivos de tecnologia e divulgou um “Projeto para uma Declaração de Direitos de IA.”
O gabinete de Newsom disse que o governador não estava disponível para uma entrevista. Ele disse à Bloomberg que achava que havia uma “caixa de Pandora” sendo aberta com IA generativa e que o estado quer “que isso seja feito de forma segura”.
Peter Leroe-Muñoz, conselheiro geral e vice-presidente sênior de tecnologia e inovação do Silicon Valley Leadership Group, disse estar satisfeito com o fato de o gabinete do governador estar se envolvendo com empresas de tecnologia e outras partes interessadas. A IA, disse ele, tem o potencial de tornar o trabalho do governo mais eficiente e eficaz e os serviços mais acessíveis aos californianos.
“Esta ordem executiva realmente mostra que o governador está colocando a Califórnia no comando enquanto traçamos o futuro da IA na América”, disse ele.
.
