.
Há vinte anos, a nanotecnologia era a inteligência artificial do seu tempo. Os detalhes específicos destas tecnologias são, obviamente, um mundo à parte. Mas os desafios de garantir o desenvolvimento responsável e benéfico de cada tecnologia são surpreendentemente semelhantes. A nanotecnologia, que consiste em tecnologias à escala de átomos e moléculas individuais, carregava até o seu próprio risco existencial sob a forma de “gosma cinzenta”.
À medida que tecnologias potencialmente transformadoras baseadas na IA continuam a surgir e a ganhar força, não está claro se as pessoas no campo da inteligência artificial estão a aplicar as lições aprendidas com a nanotecnologia.
Como estudiosos do futuro da inovação, exploramos estes paralelos num novo comentário na revista Nature Nanotechnology. O comentário também analisa como a falta de envolvimento com uma comunidade diversificada de especialistas e partes interessadas ameaça o sucesso a longo prazo da IA.
Excitação e medo da nanotecnologia
No final da década de 1990 e início da década de 2000, a nanotecnologia passou de uma ideia radical e um tanto marginal para uma aceitação generalizada. O governo dos EUA e outras administrações em todo o mundo aumentaram o investimento no que foi considerado “a próxima revolução industrial”. Especialistas governamentais apresentaram argumentos convincentes sobre como, nas palavras de um relatório fundamental do Conselho Nacional de Ciência e Tecnologia dos EUA, “moldar o mundo átomo por átomo” transformaria positivamente as economias, o ambiente e as vidas.
Mas havia um problema. Na esteira da resistência pública contra as culturas geneticamente modificadas, juntamente com as lições aprendidas com o ADN recombinante e o Projecto Genoma Humano, as pessoas no campo da nanotecnologia tinham preocupações crescentes de que poderia haver uma reacção semelhante contra a nanotecnologia se esta fosse mal tratada.
Estas preocupações eram bem fundamentadas. Nos primórdios da nanotecnologia, organizações sem fins lucrativos como o Grupo ETC, Friends of the Earth e outras opuseram-se veementemente às alegações de que este tipo de tecnologia era segura, que haveria desvantagens mínimas e que especialistas e desenvolvedores sabiam o que estavam fazendo. A época assistiu a protestos públicos contra a nanotecnologia e – de forma perturbadora – até mesmo a uma campanha de bombardeamentos levada a cabo por extremistas ambientais que tinham como alvo os investigadores da nanotecnologia.
Tal como acontece hoje com a IA, surgiram preocupações sobre o efeito sobre os empregos, à medida que uma nova vaga de competências e de automatização varreu os planos de carreira estabelecidos. Também prenunciando as actuais preocupações com a IA, começaram a surgir preocupações sobre os riscos existenciais, nomeadamente a possibilidade de “nanobots” auto-replicantes converterem toda a matéria da Terra em cópias de si próprios, resultando numa “gosma cinzenta” que abrange o planeta. Este cenário específico foi destacado pelo cofundador da Sun Microsystems, Bill Joy, em um artigo de destaque na revista Wired.
Muitos dos riscos potenciais associados à nanotecnologia, porém, eram menos especulativos. Tal como existe um foco crescente nos riscos mais imediatos associados à IA no presente, no início da década de 2000 assistiu-se a uma ênfase na análise de desafios tangíveis relacionados com a garantia do desenvolvimento seguro e responsável da nanotecnologia. Estes incluíram potenciais impactos na saúde e no ambiente, questões sociais e éticas, regulamentação e governação, e uma necessidade crescente de colaboração pública e das partes interessadas.
O resultado foi um cenário profundamente complexo em torno do desenvolvimento da nanotecnologia que prometia avanços incríveis, mas estava repleto de incertezas e do risco de perder a confiança do público se as coisas corressem mal.
Como a nanotecnologia acertou
Um de nós – Andrew Maynard – esteve na vanguarda da abordagem dos riscos potenciais da nanotecnologia no início dos anos 2000 como pesquisador, copresidente do grupo de trabalho interagências Nanotecnologia Ambiental e Implicações para a Saúde e principal consultor científico do Centro Internacional Woodrow Wilson para Projeto Acadêmico sobre Tecnologia Emergente.
Na altura, trabalhar no desenvolvimento responsável da nanotecnologia era como brincar com os desafios de saúde, ambiente, sociais e de governação apresentados pela tecnologia. Para cada solução, parecia haver um novo problema.
No entanto, através do envolvimento com um vasto leque de especialistas e partes interessadas – muitos dos quais não eram autoridades em nanotecnologia, mas que trouxeram perspectivas e conhecimentos críticos para a mesa – o campo produziu iniciativas que lançaram as bases para o sucesso da nanotecnologia. Isto incluiu parcerias multissetoriais, padrões de consenso e iniciativas lideradas por organismos globais como a Organização para a Cooperação e Desenvolvimento Económico.
Como resultado, muitas das tecnologias em que as pessoas confiam hoje são sustentadas por avanços na ciência e na engenharia em nanoescala. Até mesmo alguns dos avanços na IA dependem de hardware baseado em nanotecnologia.
Nos EUA, grande parte deste trabalho colaborativo foi liderado pela Iniciativa Nacional de Nanotecnologia interagências. No início dos anos 2000, a iniciativa reuniu representantes de todo o governo para compreender melhor os riscos e benefícios da nanotecnologia. Ajudou a reunir um amplo e diversificado conjunto de académicos, investigadores, criadores, profissionais, educadores, activistas, decisores políticos e outras partes interessadas para ajudar a traçar estratégias para garantir tecnologias em nanoescala social e economicamente benéficas.
Em 2003, a Lei de Investigação e Desenvolvimento em Nanotecnologia do Século XXI tornou-se lei e codificou ainda mais este compromisso de participação de um vasto leque de partes interessadas. Nos próximos anos assistimos a um número crescente de iniciativas financiadas a nível federal – incluindo o Centro de Nanotecnologia e Sociedade da Universidade Estatal do Arizona (onde um de nós fazia parte do conselho de visitantes) – que consolidaram o princípio do amplo envolvimento em torno das tecnologias avançadas emergentes.
Especialistas apenas à mesa
Estes e outros esforços semelhantes em todo o mundo foram fundamentais para garantir o surgimento de uma nanotecnologia benéfica e responsável. No entanto, apesar de aspirações semelhantes em torno da IA, faltam estes mesmos níveis de diversidade e envolvimento. O desenvolvimento da IA praticado hoje é, em comparação, muito mais excludente. A Casa Branca priorizou consultas com CEOs de empresas de IA, e as audiências no Senado recorreram preferencialmente a especialistas técnicos.
De acordo com as lições aprendidas com a nanotecnologia, acreditamos que esta abordagem é um erro. Embora os membros do público, os decisores políticos e os especialistas fora do domínio da IA possam não compreender totalmente os detalhes íntimos da tecnologia, muitas vezes são plenamente capazes de compreender as suas implicações. Mais importante ainda, trazem para a mesa uma diversidade de conhecimentos e perspectivas que são essenciais para o desenvolvimento bem-sucedido de uma tecnologia avançada como a IA.
É por isso que, no nosso comentário sobre a Nanotecnologia da Natureza, recomendamos aprender com as lições da nanotecnologia, envolvendo-se desde cedo e frequentemente com especialistas e partes interessadas que podem não conhecer os detalhes técnicos e a ciência por trás da IA, mas que, no entanto, trazem conhecimento e insights essenciais para garantir a adequação da tecnologia. sucesso.
O tempo está passando
A inteligência artificial pode ser a tecnologia mais transformadora que já existe na memória. Desenvolvido de forma inteligente, poderá mudar positivamente a vida de milhares de milhões de pessoas. Mas isto só acontecerá se a sociedade aplicar as lições das anteriores transições tecnológicas avançadas, como a impulsionada pela nanotecnologia.
Tal como aconteceu com os anos de formação da nanotecnologia, é urgente enfrentar os desafios da IA. Os primeiros dias de uma transição tecnológica avançada definiram a trajetória de como ela se desenrolará nas próximas décadas. E com o recente ritmo de progresso da IA, esta janela está a fechar-se rapidamente.
Não é apenas o futuro da IA que está em jogo. A inteligência artificial é apenas uma das muitas tecnologias emergentes transformadoras. Tecnologias quânticas, manipulação genética avançada, neurotecnologias e muito mais estão chegando rapidamente. Se a sociedade não aprender com o passado a navegar com sucesso nestas transições iminentes, corre o risco de perder as promessas que encerra e enfrenta a possibilidade de cada uma delas causar mais danos do que benefícios.
.
