.
No verão de 1974, um grupo de pesquisadores internacionais publicou uma carta aberta urgente pedindo a seus colegas que suspendessem o trabalho em uma nova tecnologia potencialmente perigosa. A carta foi a primeira na história da ciência – e agora, meio século depois, aconteceu novamente.
A primeira carta, “Riscos Potenciais de Moléculas de DNA Recombinantes”, pedia uma moratória em certos experimentos que transferiam genes entre espécies diferentes, uma tecnologia fundamental para a engenharia genética.
A carta de março, “Pause Giant AI Experiments”, veio dos principais pesquisadores de inteligência artificial e notáveis, como Elon Musk e Steve Wozniak. Assim como na carta do DNA recombinante, os pesquisadores pediram uma moratória em certos projetos de IA, alertando para um possível “evento de extinção da IA”.
Alguns cientistas de IA já haviam pedido uma pesquisa cautelosa de IA em 2017, mas sua preocupação atraiu pouca atenção do público até a chegada da IA generativa, lançada publicamente pela primeira vez como ChatGPT. De repente, uma ferramenta de IA pode escrever histórias, pintar quadros, conduzir conversas e até mesmo escrever músicas – todas habilidades humanas anteriormente únicas. A carta de março sugeria que a IA poderia um dia se tornar hostil e até possivelmente se tornar nosso substituto evolutivo.
Embora separados por 50 anos, os debates que se seguiram às cartas de DNA e IA têm uma semelhança fundamental: em ambos, uma preocupação relativamente específica levantada pelos pesquisadores rapidamente se tornou um representante público de toda uma gama de preocupações políticas, sociais e até espirituais.
A carta do DNA recombinante enfocou o risco de criar acidentalmente novas doenças fatais. Os oponentes da engenharia genética ampliaram essa preocupação em vários cenários de desastre: um vírus genocida programado para matar apenas um grupo racial, salmão geneticamente modificado tão vigoroso que poderia escapar de fazendas de peixes e destruir ecossistemas costeiros, aumento da inteligência fetal acessível apenas aos ricos. Houve até protestos de rua contra a experimentação de DNA recombinante em cidades-chave de pesquisa, incluindo São Francisco e Cambridge, Massachusetts. O prefeito de Cambridge alertou sobre os “monstros” da bioengenharia e perguntou: “Esta é a resposta para o sonho do Dr. Frankenstein?”
Nos meses desde a carta “Pause Giant AI Experiments”, cenários de desastres também proliferaram: a IA permite o estado de vigilância totalitário definitivo, um aplicativo militar enlouquecido de IA lança uma guerra nuclear, IAs superinteligentes colaboram para minar a infraestrutura do planeta. E também há pressentimentos menos apocalípticos: hackers imparáveis movidos a IA, enormes campanhas globais de desinformação sobre IA, desemprego desenfreado à medida que a inteligência artificial toma nossos empregos.
A carta do DNA recombinante levou a uma reunião de quatro dias no Asilomar Conference Grounds, na Península de Monterey, onde 140 pesquisadores se reuniram para elaborar diretrizes de segurança para o novo trabalho. Eu cobri aquela conferência como jornalista, e os procedimentos irradiavam história em formação: quem é quem dos principais geneticistas moleculares, incluindo ganhadores do Prêmio Nobel, bem como pesquisadores mais jovens que adicionaram o idealismo dos anos 1960 à mistura. A discussão em sessão após sessão foi contenciosa; carreiras, trabalhos em andamento, a liberdade de investigação científica estavam todos potencialmente em jogo. Mas também havia o medo implícito de que, se os pesquisadores não redigissem seus próprios regulamentos, o Congresso o faria por eles, de maneira muito mais pesada.
Com apenas algumas horas de sobra no último dia, a conferência votou para aprovar diretrizes que seriam então codificadas e aplicadas pelos Institutos Nacionais de Saúde; versões dessas regras ainda existem hoje e devem ser seguidas por qualquer organização de pesquisa que receba financiamento federal. As diretrizes também influenciam indiretamente a indústria comercial de biotecnologia, que depende em grande parte da ciência financiada pelo governo federal para novas ideias. As regras não são perfeitas, mas funcionaram bem. Nos 50 anos desde então, não tivemos nenhum desastre de engenharia genética. (Mesmo que o vírus COVID-19 tenha escapado de um laboratório, seu genoma não apresentou evidências de engenharia genética.)
O desafio da inteligência artificial é um problema mais complicado. Grande parte da nova pesquisa de IA é feita no setor privado, por centenas de empresas, desde pequenas startups até gigantes multinacionais da tecnologia – nenhuma tão facilmente regulada quanto as instituições acadêmicas. E já existem leis sobre cibercrime, privacidade, preconceito racial e muito mais que cobrem muitos dos medos em torno da IA avançada; quantas novas leis são realmente necessárias? Finalmente, ao contrário das diretrizes de engenharia genética, as regras de IA provavelmente serão elaboradas por políticos. Em junho, o Parlamento da União Europeia aprovou seu projeto de Lei da IA, uma proposta de longo alcance para regulamentar a IA que pode ser ratificada até o final do ano, mas que já foi criticada por pesquisadores como proibitivamente rígida.
Nenhuma legislação proposta até agora aborda a preocupação mais dramática da carta de moratória da IA: a extinção humana. Mas a história da engenharia genética desde a Conferência de Asilomar sugere que podemos ter algum tempo para considerar nossas opções antes de qualquer potencial apocalipse da IA.
A engenharia genética provou ser muito mais complicada do que se esperava há 50 anos. Após os temores e otimismo iniciais da década de 1970, cada década confrontou os pesquisadores com novos quebra-cabeças. Um genoma pode ter grandes séries de genes idênticos e repetitivos, por razões ainda não totalmente compreendidas. As doenças humanas geralmente envolvem centenas de genes individuais. A pesquisa epigenética revelou que as circunstâncias externas – dieta, exercício, estresse emocional – podem influenciar significativamente o funcionamento dos genes. E o RNA, antes pensado apenas como um mensageiro químico, acaba tendo um papel muito mais poderoso no genoma.
Essa complexidade crescente também pode ser verdadeira para a IA. Mesmo os poemas, pinturas ou conversas mais humanas produzidas pela IA são geradas por uma análise puramente estatística do vasto banco de dados que é a internet. Produzir a extinção humana exigirá muito mais da IA: especificamente, uma autoconsciência capaz de ignorar os desejos de seus criadores e, em vez disso, agir de acordo com os próprios interesses da IA. Em suma, a consciência. E, como o genoma, a consciência certamente ficará muito mais complicada quanto mais a estudarmos.
Tanto o genoma quanto a consciência evoluíram ao longo de milhões de anos, e supor que podemos fazer engenharia reversa em algumas décadas é um pouco presunçoso. No entanto, se tal arrogância leva a excesso de cautela, isso é bom. Antes de realmente termos o controle total da evolução ou da consciência, teremos muito tempo para descobrir como proceder como adultos responsáveis.
Michael Rogers é um autor e futurista cujo livro mais recente é “Email from the Future: Notes from 2084.” Sua cobertura da conferência DNA recombinante Asilomar, “O Congresso da Caixa de Pandora,” foi publicado na Rolling Stone em 1975.
.
