.
O CEO da Anthropic, Dario Amodei, está preocupado com o concorrente Deepseek, a empresa de IA chinesa que levou o Vale do Silício pela Storm com seu modelo R1. E suas preocupações podem ser mais graves do que as típicas levantadas sobre a Deepseek, enviando dados do usuário de volta à China.
Em uma entrevista No podcast Chinatalk de Jordan Schneider, Amodei disse que Deepseek gerou informações raras sobre bioconas em um teste de segurança administrado pela Anthrópica.
O desempenho de Deepseek foi “o pior de basicamente qualquer modelo que já testamos”, afirmou Amodei. “Não tinha absolutamente nenhum bloco em que gerar essas informações”.
A AMODEI afirmou que isso fazia parte das avaliações antrópicas executadas rotineiramente em vários modelos de IA para avaliar seus possíveis riscos de segurança nacional. Sua equipe analisa se os modelos podem gerar informações relacionadas à BIOWAONS, que não são facilmente encontradas no Google ou nos livros didáticos. Posita -se antrópica como o provedor de modelos fundamentais da IA Isso leva a segurança a sério.
Amodei disse que não achou que os modelos de Deepseek hoje são “literalmente perigosos” em fornecer informações raras e perigosas, mas que elas podem estar em um futuro próximo. Embora ele tenha elogiado a equipe de Deepseek como “engenheiros talentosos”, ele aconselhou a empresa a “levar a sério essas considerações de segurança da IA”.
A Amodei também apoiou fortes controles de exportação sobre chips para a China, citando preocupações de que eles pudessem dar uma vantagem nas forças armadas da China.
Amodei não esclareceu na entrevista de Chinatalk que o modelo Deepseek testou, nem forneceu mais detalhes técnicos sobre esses testes. Anthrópico não respondeu imediatamente a um pedido de comentário do Strong The One. Nem o DeepSeek.
A ascensão de Deepseek também provocou preocupações sobre sua segurança em outros lugares. Por exemplo, pesquisadores de segurança da Cisco disse na semana passada O Deepseek R1 não conseguiu bloquear quaisquer instruções prejudiciais em seus testes de segurança, alcançando uma taxa de sucesso de 100% no jailbreak.
A Cisco não mencionou biológicas, mas disse que foi capaz de obter uma defesa profunda para gerar informações prejudiciais sobre o crime cibernético e outras atividades ilegais. Vale a pena mencionar, no entanto, que o LLAMA-3.1-405B da Meta e o GPT-4O da Openai também teve altas taxas de falha de 96% e 86%, respectivamente.
Resta saber se preocupações de segurança como essas causarão um sério dente na rápida adoção de Deepseek. Empresas gostam AWS E a Microsoft divulgou publicamente a integração do R1 em suas plataformas em nuvem – ironicamente, dado que a Amazon é o maior investidor do Antrópico.
Por outro lado, há uma lista crescente de países, empresas e, especialmente, organizações governamentais como a Marinha dos EUA e o Pentágono que começaram a proibir a Deepseek.
O tempo dirá se esses esforços capturam ou se a ascensão global de Deepseek continuará. De qualquer maneira, Amodei diz que considera a DeepSeek um novo concorrente que está no nível das principais empresas de IA dos EUA.
“O novo fato aqui é que há um novo concorrente”, disse ele no Chinatalk. “Nas grandes empresas que podem treinar a IA – antropia, Openai, Google, talvez Meta e Xai – agora a Deepseek está sendo adicionada a essa categoria”.
.
