Os ‘piores medos’ do chefe da empresa de IA são mais preocupantes do que o truque assustador do partido do Senado | notícias dos EUA

Normalmente, quando representantes de empresas de tecnologia comparecem ao Senado dos EUA, eles tendem a protestar contra a perspectiva de regulamentação e resistem à sugestão de que sua tecnologia esteja causando danos.

E foi isso que fez esta comissão ouvir sobre IA uma coisa rara.

Sam Altman, CEO da OpenAI – a empresa que criou o ChatGPT e o GPT4, uma das maiores e mais poderosas IAs de linguagem do mundo – admitiu na terça-feira: “Meus piores temores são que nós… a indústria… causemos danos significativos ao mundo.”

Ele continuou dizendo que “a intervenção regulatória do governo será fundamental para mitigar os riscos de modelos cada vez mais poderosos”.

Isso foi, é claro, bem-vindo aos ouvidos dos preocupados políticos americanos.

A audiência sobre IA começou com uma declaração pré-gravada do senador democrata Richard Blumenthal falando dos benefícios potenciais, mas também dos graves riscos da tecnologia.

Mas não era ele falando – era uma IA treinada em gravações de suas falas, lendo um depoimento gerado pelo GPT4.

Outro daqueles truques de festa assustadores com os quais a IA está nos tornando cada vez mais familiarizados.

Os senadores estavam preocupados – não apenas com a segurança dos indivíduos à mercê de publicidade gerada por IA, desinformação ou fraude total – mas com a própria democracia.

O que uma IA, treinada para influenciar cuidadosamente as visões políticas de grupos-alvo de eleitores, poderia fazer em uma eleição?

Altman, da Open AI, disse que essa também era uma de suas maiores preocupações.

Na verdade, ele concordava com quase todos os temores expressos pelos senadores.

Seu único ponto de diferença era que ele estava convencido de que os benefícios superariam quaisquer riscos.

Uma inspiração improvável para controlar a IA

Bem, se todos estão de acordo, como você regula a IA?

Como, de fato, você escreve leis para restringir uma tecnologia que mesmo seus criadores ainda não entendem completamente?

É uma questão com a qual a UE está lutando agora, olhando para uma escala móvel de regulamentação com base nos riscos de onde uma IA está sendo usada.

Saúde e serviços bancários seriam de alto risco; indústrias criativas, mais baixas.

Hoje, tivemos uma visão interessante de como os EUA podem fazer isso: rotulagem de alimentos.

Os modelos de IA do futuro – qualquer que seja sua finalidade – devem ser examinados por laboratórios de testes independentes e rotulados de acordo com seu conteúdo nutricional, perguntou o senador Blumenthal?

A nutrição, neste caso, são dados com os quais os modelos são alimentados.

É uma dieta lixo de todas as informações na internet – como GPT4 e Bard AI do Google – foram treinadas?

Ou são dados de alta qualidade de um sistema de saúde ou estatísticas governamentais?

E quão confiáveis ​​são os resultados dos modelos de IA que foram alimentados com esses dados, mesmo que sejam orgânicos e ao ar livre?

Consulte Mais informação:
Geoffrey Hinton: Quem é o ‘Padrinho da IA’?
O chefe do Google, Sundar Pichai, admite que os perigos da IA ​​’me mantêm acordado à noite’

Questão iminente de confiança na IA

Altman disse que concorda com a ideia do senador e olha para um futuro em que haja transparência suficiente para que o público e os reguladores saibam o que há dentro de uma IA.

Mas aqui reside a contradição na evidência do Sr. Altman. E a questão que surge quando se trata de regulamentação de IA.

Embora ele tenha compartilhado o que, sem dúvida, são suas crenças profundas, a maneira como sua IA e outras estão sendo implantadas agora não reflete isso.

A OpenAI tem um acordo multibilionário com a Microsoft, que incorporou o GPT4 em seu mecanismo de busca Bing para rivalizar com o Bard AI do Google.

Sabemos pouco sobre como esses AIs gerenciam sua dieta de junk food ou quão confiáveis ​​são suas regurgitações.

Os representantes dessas empresas teriam uma postura diferente sobre a questão da regulamentação se estivessem sentados perante o comitê?

No momento, outras grandes empresas de tecnologia têm resistido às tentativas de regulamentar seus produtos de mídia social.

Sua principal vantagem, particularmente nos Estados Unidos, são as leis da primeira emenda que protegem a liberdade de expressão.

Uma questão interessante para um especialista constitucional dos EUA é se as AIs têm direito à liberdade de expressão?

Se não, o regulamento que muitos dos criadores de IA dizem que querem ver, na verdade, é mais fácil de implementar?