Ciência e Tecnologia

Um especialista em segurança nacional faz contas sobre os perigos da IA

.

Um tipo de risco no qual você está muito interessado há muito tempo é o “biorisco”. Qual é o pior coisa que poderia acontecer? Conte-nos sobre isso.

Comecei na saúde pública antes de trabalhar na segurança nacional, trabalhando no controlo de doenças infecciosas – malária e tuberculose. Em 2002, o primeiro vírus foi sintetizado do zero em um projeto da Darpa, e foi uma espécie de momento “que merda” para as biociências e a comunidade de saúde pública, percebendo que a biologia se tornará uma disciplina de engenharia que poderia ser potencialmente mal utilizada. Eu estava trabalhando com veteranos da campanha de erradicação da varíola e eles pensaram: “Caramba, acabamos de passar décadas erradicando uma doença que agora poderia ser sintetizada do zero”.

Passei então a trabalhar com biossegurança, tentando descobrir: como poderíamos aumentar a segurança em torno dos biolaboratórios para que houvesse menos probabilidade de serem usados? Como podemos detectar programas de armas biológicas? Que, infelizmente, ainda existem em números significativos em alguns lugares do mundo. Além disso, como podemos trazer mais segurança à sociedade para que sejamos mais resilientes quando se trata não apenas de uma pandemia projetada, mas também de pandemias naturais?

Há muita vulnerabilidade que permanece na sociedade. A Covid foi uma demonstração disso. Este foi um vírus relativamente suave em termos históricos – teve uma taxa de mortalidade por infecção inferior a 1% – enquanto existem alguns vírus naturais que têm taxas de mortalidade bem acima de 50%. Existem vírus sintéticos que têm quase 100% de letalidade, embora sejam tão transmissíveis quanto o SARS-CoV-2. Embora saibamos como conceber vacinas e fabricá-las muito rapidamente, a sua aprovação leva hoje quase tanto tempo como há cerca de 20 anos. Portanto, a quantidade de tempo necessária para vacinar uma população é hoje quase a mesma que foi para os nossos pais e até mesmo para os nossos avós.

Quando comecei a interessar-me pela biossegurança, em 2002, custava muitos milhões de dólares construir um poliovírus, um vírus muito, muito pequeno. Teria custado cerca de US$ 1 bilhão para sintetizar um vírus da varíola, um vírus muito grande. Hoje, o custo é inferior a US$ 100.000, então é uma redução de 10.000 vezes nesse período. Enquanto isso, o custo das vacinas triplicou durante esse período. A assimetria defesa-ataque está se movendo na direção errada.

E o que você vê como nosso maior adversário em bioriscos?

Primeiro é a natureza. A evolução dos vírus naturais continua. Teremos futuras pandemias virais. Alguns deles serão piores que a Covid, alguns deles não serão tão ruins quanto a Covid, mas temos que ser resilientes a ambos. Covid custou apenas a economia dos EUA mais de US$ 10 trilhõese ainda assim o que investimos na prevenção da próxima pandemia é talvez entre 2 mil milhões e 3 mil milhões de dólares em investimento federal.

Outra categoria são os ataques biológicos intencionais. Aum Shinrikyo era um culto do Juízo Final no Japão que tinha um programa de armas biológicas. Eles acreditavam que estariam cumprindo a profecia matando todas as pessoas do planeta. Felizmente, eles estavam trabalhando com a biologia dos anos 1990, que não era tão sofisticada. Infelizmente, recorreram então às armas químicas e lançaram os ataques com gás sarin em Tóquio.

Temos hoje indivíduos e grupos que têm a intenção de causar vítimas em massa e expressam cada vez mais interesse na biologia como arma. O que os impede de utilizar a biologia de forma eficaz não são os controlos sobre as ferramentas ou as matérias-primas, porque estas estão agora disponíveis em muitos laboratórios e no eBay – pode comprar um sintetizador de ADN por muito menos de 100.000 dólares atualmente. Você pode obter todos os materiais e consumíveis necessários na maioria das lojas de suprimentos científicos.

O que faltaria a um grupo apocalíptico é o conhecimento para transformar essas ferramentas em armas biológicas. Existe a preocupação de que a IA torne o know-how mais amplamente disponível. Alguns a pesquisa feito por [AI safety and research company] A Anthropic analisou avaliações de risco para ver se essas ferramentas poderiam ser mal utilizadas por alguém que não tivesse uma sólida formação biológica. Eles poderiam basicamente obter treinamento de pós-graduação de um tutor digital na forma de um grande modelo de linguagem? Neste momento, provavelmente não. Mas se mapearmos o progresso ao longo dos últimos anos, a barreira à entrada para alguém que queira realizar um ataque biológico está a desaparecer.

.

Mostrar mais

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo