.
O autor do SB 1047 da Califórnia, a conta de segurança de IA mais controversa do país, de 2024, está de volta com uma nova lei de IA que pode abalar o Vale do Silício.
O senador estadual da Califórnia, Scott Wiener, apresentou um nova fatura Na sexta -feira, isso protegeria os funcionários dos principais laboratórios de IA, permitindo que eles se manifestassem se acharem que os sistemas de IA de sua empresa poderiam ser um “risco crítico” para a sociedade. O novo projeto de lei, SB 53, também criaria um cluster de computação em nuvem pública, chamada Calcompute, para dar aos pesquisadores e startups os recursos de computação necessários para desenvolver IA que beneficiem o público.
O último projeto de lei de Wiener, o SB 1047 da Califórnia, provocou um debate animado em todo o país sobre como mitigar os riscos catastróficos dos sistemas de IA sem reduzir a vantagem competitiva da América. O SB 1047 teve como objetivo impedir a possibilidade de modelos de IA muito grandes criando eventos catastróficos, como causar perda de vidas ou ataques cibernéticos que custam mais de US $ 500 milhões em danos. No entanto, o governador Gavin Newsom finalmente vetou o projeto de lei em setembro, dizendo que o SB 1047 não era a melhor abordagem.
Mas o debate sobre o SB 1047 rapidamente se tornou feio. Alguns líderes do Vale do Silício disseram que o SB 1047 prejudicaria a vantagem competitiva da América na corrida global da IA e afirmou que o projeto foi inspirado por medos irreais de que os sistemas de IA pudessem trazer cenários de dia do juízo final de ficção científica. Enquanto isso, o senador Wiener alegou que alguns capitalistas de risco se envolveram em uma “campanha de propaganda” contra seu projeto de lei, apontando em parte a alegação do Y Combinator de que o SB 1047 enviaria fundadores de startups para a prisão, argumentou que uma alegação de especialistas foi enganosa.
O SB 53 exige essencialmente as partes menos controversas do SB 1047 – como proteções de denunciantes e o estabelecimento de um cluster de calcomputa – e as reembalam em uma nova conta de IA.
Notavelmente, Wiener não está se esquivando do risco de IA existencial no SB 53. O novo projeto de lei protege especificamente os denunciantes que acreditam que seus empregadores estão criando sistemas de IA que representam um “risco crítico”. A conta define o risco crítico como um ““Risco previsível ou material de que o desenvolvimento, armazenamento ou implantação de um desenvolvedor de um modelo de fundação, conforme definido, resulte na morte ou ferimentos graves a mais de 100 pessoas, ou mais de US $ 1 bilhão em danos a direitos em dinheiro ou propriedade. ”
O SB 53 limita os desenvolvedores de modelos de IA da Frontier – provavelmente incluindo o OpenAI, Antrópico e Xai, entre outros – de retaliar contra funcionários que divulgam informações sobre informações ao Procurador Geral, autoridades federais da Califórnia ou a outros funcionários. De acordo com o projeto, esses desenvolvedores seriam obrigados a se reportar aos denunciantes sobre certos processos internos que os denunciantes encontram em relação.
Quanto ao Calcompute, o SB 53 estabeleceria um grupo para criar um cluster de computação em nuvem pública. O grupo consistiria em representantes da Universidade da Califórnia, bem como de outros pesquisadores públicos e privados. Isso faria recomendações sobre como criar calcomputa, quão grande o cluster deve ser e quais usuários e organizações devem ter acesso a ele.
Obviamente, é muito cedo no processo legislativo do SB 53. O projeto de lei precisa ser revisado e aprovado pelos órgãos legislativos da Califórnia antes de chegar à mesa do governador Newsom. Os legisladores estaduais certamente estarão esperando a reação do Vale do Silício ao SB 53.
No entanto, 2025 pode ser um ano mais difícil para aprovar as contas de segurança da IA em comparação com 2024. A Califórnia aprovou 18 projetos de lei relacionados à IA em 2024, mas agora parece que o movimento da Doom da AI perdeu terreno.
O vice -presidente JD Vance sinalizou na Cúpula de Ação de Paris AI que os Estados Unidos não estão interessados na segurança da IA, mas priorizam a inovação da IA. Embora o cluster Calcompute estabelecido pelo SB 53 certamente possa ser visto como o avanço do progresso da IA, não está claro como os esforços legislativos em torno do risco de IA existencial se sairão em 2025.
.
