.
Os governos em todo o O mundo está correndo para adotar os algoritmos que deram alguma aparência de inteligência ao ChatGPT, aparentemente fascinados pelo enorme retorno econômico esperado da tecnologia.
Dois novos relatórios divulgados esta semana mostram que os Estados-nação também estão provavelmente a apressar-se para adaptar a mesma tecnologia em armas de desinformação, no que poderá tornar-se uma preocupante corrida armamentista de IA entre grandes potências.
Pesquisadores da RAND, um think tank sem fins lucrativos que assessora o governo dos Estados Unidos, apontam para evidências de um pesquisador militar chinês com experiência em campanhas de informação discutindo publicamente como a IA generativa poderia ajudar nesse trabalho. Um artigo de pesquisa, de janeiro de 2023, sugere o uso de grandes modelos de linguagem, como uma versão aprimorada do BERT do Google, um precursor dos modelos de linguagem mais poderosos e capazes que alimentam chatbots como o ChatGPT.
“Não há provas de que isso esteja sendo feito neste momento”, afirma William Marcellino, especialista em IA e cientista comportamental e social sênior da RAND, que contribuiu para o relatório. “Em vez de alguém dizer: ‘Aqui está um caminho a seguir.’” Ele e outros na RAND estão alarmados com a perspectiva de campanhas de influência obterem nova escala e poder graças à IA generativa. “Criar um sistema para criar milhões de contas falsas que se apresentam como taiwanesas, ou americanas, ou alemãs, que promovem uma narrativa estatal – penso que é qualitativa e quantitativamente diferente”, diz Marcellino.
Campanhas de informação online, como a que a Agência de Investigação da Internet da Rússia empreendeu para minar as eleições norte-americanas de 2016, existem há anos. Eles dependeram principalmente do trabalho manual – trabalhadores humanos trabalhando em teclados. Mas os algoritmos de IA desenvolvidos nos últimos anos poderiam produzir textos, imagens e vídeos em massa concebidos para enganar ou persuadir, ou mesmo realizar interações convincentes com pessoas em plataformas de redes sociais. Um projeto recente sugere que o lançamento de tal campanha poderia custar apenas algumas centenas de dólares.
Marcellino e os seus co-autores observam que muitos países – incluindo os EUA – estão quase certamente a explorar a utilização de IA generativa para as suas próprias campanhas de informação. E a ampla acessibilidade de ferramentas generativas de IA, incluindo numerosos modelos de linguagem de código aberto que qualquer pessoa pode obter e modificar, reduz o nível de exigência para quem pretende lançar uma campanha de informação. “Vários intervenientes poderiam utilizar a IA generativa para a manipulação das redes sociais, incluindo intervenientes não estatais tecnicamente sofisticados”, escrevem.
Um segundo relatório publicado esta semana, por outro think tank centrado na tecnologia, o Special Competitive Studies Project, também alerta que a IA generativa poderá em breve tornar-se uma forma de as nações se flexibilizarem umas com as outras. Exorta o governo dos EUA a investir fortemente na IA generativa porque a tecnologia promete impulsionar muitas indústrias diferentes e fornecer “novas capacidades militares, prosperidade económica e influência cultural” para qualquer nação que a domine primeiro.
Tal como o relatório da RAND, a análise do SCSP também tira algumas conclusões sombrias. Alerta que o potencial da IA generativa poderá desencadear uma corrida armamentista para adaptar a tecnologia para utilização militar ou em ataques cibernéticos. Se ambos estiverem certos, estamos a caminhar para uma corrida armamentista no espaço da informação que pode revelar-se particularmente difícil de conter.
Como evitar o cenário de pesadelo de a Internet ser invadida por bots de IA programados para guerra de informação? Requer que os humanos conversem entre si.
O relatório do SCSP recomenda que os EUA “devem liderar o envolvimento global para promover a transparência, fomentar a confiança e encorajar a colaboração”. Os investigadores da RAND recomendam que os diplomatas dos EUA e da China discutam a IA generativa e os riscos que envolvem a tecnologia. “Pode ser do interesse de todos nós não termos uma Internet totalmente poluída e inacreditável”, diz Marcellino. Acho que isso é algo em que todos podemos concordar.
.
