.
Os problemas de privacidade e segurança continuam se acumulando para a AI chinesa, a AI, a Upstart Deepseek. Depois de ter acesso bloqueado para legisladores e funcionários federais em vários países, além de arrecadar alarmes sobre sua censura e salvaguardas, agora atraiu um aviso oficial da agência de espionagem da Coréia do Sul.
O Serviço Nacional de Inteligência (NIS) do país tem como alvo a empresa de IA sobre coleta excessiva e respostas questionáveis para tópicos sensíveis ao herança coreana, conforme a Reuters.
“Ao contrário de outros serviços generativos de IA, foi confirmado que os registros de bate -papo são transferíveis, pois inclui uma função para coletar padrões de entrada do teclado que podem identificar indivíduos e se comunicar com servidores de empresas chinesas, como o Volceaplog.com”, disse a agência ao dizer que a agência disse .
Isso ocorre após um aviso do governo pedindo a diferentes agências e ministérios para bloquear o acesso dos funcionários a alarmes de segurança do DeepSeek. A Austrália e Taiwan já implementaram essas restrições, e espera -se que mais países sigam o exemplo.
A questão principal é que a DeepSeek está oferecendo acesso aberto a seus parceiros de anúncios aos dados do usuário, que o governo chinês também pode obter, conforme as leis locais. De acordo com o Korea Herald, o chatbot também estava retornando respostas controversas a perguntas sobre tópicos geopolíticos culturalmente sensíveis e controversos.
Notavelmente, o chatbot oferece respostas diferentes quando fez a mesma pergunta nas línguas coreanas e chinesas. De acordo com o Korea Times, a agência realizará mais testes para avaliar os aspectos de segurança e segurança em um futuro próximo.
Embora as preocupações de segurança tenham chegado às manchetes como a maior preocupação com a Deepseek, os especialistas também estão preocupados com as respostas que ele pode gerar. Em uma análise do Wall Street Journal, a IA tossiu informações preocupantes, como a receita, para cozinhar biológicas, um manifesto de defesa nazista e incentivo auto-mutilado.
Em uma análise do colega gigante da IA, o CEO da empresa, Dario Amodei, mencionou que a Deepseek provou ser o pior modelo de IA em seus testes quando se trata de gerar informações extremamente perturbadoras, como a criação de biológicas.
Há pouco mais de uma semana, os pesquisadores da Cisco também o testaram contra ferramentas de jailbreak em seis categorias diferentes e não bloquearam todos os ataques. Em outra rodada de testes da Qualys, a IA só conseguiu reunir uma taxa de aprovação de 47% no jailbreak.
Depois, há as preocupações de vazar dados confidenciais e compartilhá -los sem nenhuma restrição. Pesquisadores de segurança cibernética do WIZ descobriram recentemente mais de um milhão de linhas de histórico de bate -papo contendo informações confidenciais que eram acessíveis ao público.
A Deepseek conectou a falha, mas sua captação comercial continua sendo um tópico de debate a quente. Nos EUA, a NASA já proibiu os funcionários de usaremeek, assim como a Marinha dos EUA. Além disso, um projeto de lei que busca uma proibição profundo de dispositivos federais também está sobre a mesa.
.
