.
Em um declaração na terça -feiraDario Amodei, CEO da AI Startup Anthrópica, chamou a cúpula de ação da IA em Paris nesta semana de “oportunidade perdida” e instou a indústria da IA - e o governo – a “se mover mais rápido e com maior clareza”.
“Tivemos o prazer de participar da cúpula de ação da IA em Paris e agradecemos os esforços do governo francês para reunir empresas de IA, pesquisadores e formuladores de políticas de todo o mundo”, disse Amodei. “No entanto, é necessário maior foco e urgência em vários tópicos, dado o ritmo em que a tecnologia está progredindo”.
As críticas de Amodei à cúpula de ação da IA, a mais recente de uma série de conferências que reuniram empresas e reguladores de IA para tentar chegar a um consenso sobre a governança da IA, ecoa a de vários acadêmicos no início desta semana. Um disse ao transformador O fato de os compromissos da conferência, que os EUA e o Reino Unido se recusaram a assinar, disseram “não efetivamente nada, exceto as banalidades”.
Nos comentários da conferência, o vice -presidente dos EUA, JD Vance, adotou uma posição totalmente diferente e denunciou o que ele caracterizou como regulamentos “massivos” e rigorosos na IA defendida pela Europa. Vance também discordou da moderação do conteúdo, aludindo ao texto “sustentável” e “inclusivo” nos compromissos da conferência, que ele rejeitou como “censura autoritária”.
Amodei alertou em sua declaração de que a IA está rapidamente se tornando mais sofisticada e que não regulamentar isso pode resultar em consequências desastrosas.
“As capacidades dos sistemas de IA serão mais bem pensadas como um estado totalmente novo preenchido por pessoas altamente inteligentes que aparecem no cenário global”, disse Amodei. “A IA avançada apresenta perigos de segurança globais significativos, que vão desde o uso indevido de sistemas de IA por atores não estatais … devemos garantir que as sociedades democráticas lideram a IA e que os países autoritários não o usem para estabelecer o domínio militar global”.
Amodei instou os governos a implantar seus recursos para medir como a IA está sendo usada e a promulgar políticas focadas em “garantir que todos compartilhem o compartilhamento da economia [uplift] de IA muito poderosa. ” Ele também argumentou por mais transparência do governo quando se trata de segurança e segurança da IA, além de planejar avaliar os riscos de IA.
A avaliação de Amodei dos procedimentos da cúpula de Paris ai contrasta com o Openai, que disse em um declaração neste fim de semana Que estava confiante de que a conferência seria “outro marco importante em relação ao desenvolvimento responsável e benéfico da IA para todos”.
O antrópico geralmente mostrou mais uma abertura ao regulamento da IA no passado. De fato, a Amodei fez pronunciamentos semelhantes antes, advertindo que a IA irrestrita poderia ter implicações econômicas, sociais e de segurança profundamente negativas. O Antrópico foi uma das poucas empresas de IA a endossar tacitamente o SB 1047 da Califórnia, uma conta regulatória abrangente – e muito debatida – da IA. Openai se opôs ao projeto de lei, que foi vetado pelo governador Gary Newsom no outono passado.
Isso não sugere que os motivos do antropia sejam puramente filantrópicos. Como o CEO da Openai, Sam Altman, em seu recente ensaio, a Amodei não oferece recomendações concretas para garantir que os benefícios da IA poderosa, caso emergir em um futuro próximo, seja amplamente e uniformemente distribuído.
Leia nossa cobertura completa da Cúpula de Ação de Inteligência Artificial em Paris.
.
