.
Os produtos habilitados para IA fabricados na China devem despertar preocupações semelhantes aos equipamentos 5G de origem do Reino Médio e, portanto, ser regulamentados, disse o instituto de pesquisa Australian Strategic Policy Institute (ASPI) na quinta-feira.
Órgãos governamentais entre o Oeste classificaram equipamentos 5G fabricados na China em sistemas nacionais como um risco de segurança desde pelo menos 2019resultando em proibições e caro rip e programas de substituição. Preocupações incluem possíveis backdoors que permitem espionagem e que as empresas chinesas são obrigadas a cumprir Pequim, não importa o que ela peça. A Huawei sempre negou essas alegações.
Em um relatório, intitulado “De-risking Authoritarian AI”, Simeon Gilding, da ASPI, argumentou que os produtos habilitados para IA apresentam talvez um risco ainda maior do que o 5G, que também é mais difícil de mitigar.
Embora vital, o 5G ainda está restrito principalmente às telecomunicações e, portanto, limitado em escopo com custos limitados. Enquanto isso, a IA está chegando a um ponto em que tocará todos os aspectos da vida humana de uma maneira com a qual os humanos se acostumarão.
Depois que as tecnologias e sistemas habilitados para IA são instalados, eles provavelmente são equipados com atualizações automáticas de Internet e software que podem colocar seu uso além da linha de visão do usuário.
Mas exatamente porque a IA será implementada de muitas maneiras – espreitando em segundo plano, enquanto potencialmente molda a maneira como as sociedades pensam, influenciando o comportamento on-line, promulgada de maneira a manter empregos e crédito e também implementada em sistemas como redes de tráfego, operações marítimas ou ferroviárias sistemas – será impossível de controlar.
E embora os governos estejam atualmente correndo para regulamentar a própria IA, produtos e serviços habilitados para IA de países autoritários provavelmente serão negligenciados, disse o think tank.
“Uma proibição geral de toda a tecnologia chinesa habilitada para IA seria extremamente cara e perturbadora”, disse Gilding.
Portanto, as recomendações da ASPI incluem uma estrutura de três partes de auditoria, red teaming e regulamentação de produtos habilitados para IA.
A auditoria envolveria avaliar a importância do sistema para serviços essenciais, saúde e segurança pública, processos democráticos, mercados abertos, liberdade de expressão e estado de direito. Também analisaria a escala de exposição a um produto ou serviço.
A equipe vermelha seria então usada para identificar riscos no sistema internamente. Gilding usa o TikTok como um exemplo de produto que pode ser reformulado, com profissionais de segurança cibernética explorando se podem usá-lo para acessar celulares e sistemas de TI conectados para plantar malware de espionagem.
“Se a equipe revelou vulnerabilidades graves que não podem ser mitigadas, uma proibição geral pode ser apropriada”, disse o relatório.
As medidas de tratamento propostas incluem a proibição da tecnologia chinesa habilitada para IA em algumas partes da rede, a proibição de compras ou uso do governo ou uma proibição geral. Arranjos de redundância ou esforços de educação pública também são opções.
Se havia alguma dúvida sobre a origem da ameaça, Gilding deixa claro que a preocupação é a República Popular da China, que ele chama de “um poder autoritário revisionista comprovadamente hostil à democracia e à ordem internacional baseada em regras, que rotineiramente usa IA para fortalecer sua própria estabilidade política e social em detrimento dos direitos humanos individuais”.
Mas por que a preocupação com a China e não com a Rússia, o Irã e a Coreia do Norte?
Porque, como explicou a ASPI, “a China é uma superpotência tecnológica com capacidade e ambições globais e é uma grande exportadora de tecnologia habilitada para IA eficaz e competitiva em termos de custo para as democracias”.
O documento da ASPI também afirma que quanto mais próximo um país estiver da RPC, mais imediata será a ameaça.
“O Japão e a Coreia do Sul devem estar vigilantes, mas a Índia ainda mais”, disse o think tank. As duas razões para isso, acrescentou Gilding, são que a Índia ainda está se industrializando e, portanto, equipamentos chineses eficazes e competitivos em preço serão uma “primeira escolha padrão tentadora para seus requisitos de infraestrutura crítica”; e porque a Índia faz fronteira com a China, que é uma potência nuclear.
“Para a Índia, este é um jogo de chão com dedos no gatilho, então talvez o limite de regulamentação deva ser menor para a Índia”, recomendou a ASPI. ®
.
