.
Bletchley Park, um marco na jornada de Alan Turing rumo à imortalidade tecnológica, ouviu esta semana avisos de que a próxima onda de sistemas de inteligência artificial poderia ameaçar a humanidade.
Mas para um dos principais investidores mundiais em tecnologia, atrasar o desenvolvimento da IA será igualmente prejudicial em termos de mortes em acidentes de viação, pandemias e munições mal direcionadas que poderiam ter sido evitadas pela tecnologia.
“Acreditamos que qualquer desaceleração da IA custará vidas. As mortes que poderiam ser evitadas pela IA que foi impedida de existir são uma forma de assassinato”, escreveu Marc Andreessen, um dos primeiros investidores do Facebook, Pinterest e Twitter, em uma postagem de blog no mês passado intitulada The Techno-Optimist Manifesto.
Quando se trata de IA, Andreessen não é o único tecno-otimista por aí, apesar da visão pessimista da tecnologia dominar a agenda na preparação para a cimeira de segurança de IA da semana passada em Bletchley.
Elon Musk descreveu a IA no encontro como “uma das maiores ameaças à humanidade”, mas numa conversa com Rishi Sunak na quinta-feira ele também apresentou a tecnologia em termos utópicos. A IA é “um gênio mágico” que concede desejos ilimitados e dará início a uma “era de abundância”, disse ele. Esta é a visão mais benigna da inteligência artificial geral, um sistema teórico que pode realizar uma série de tarefas em níveis de inteligência humanos ou acima dos humanos. Musk disse que seu empreendimento de IA, xAI, tentará construir um sistema que seja “máximo curioso” sobre a humanidade.
Outros acreditam que os medos existenciais – baseados em sistemas de IA altamente avançados que escapam ao controlo humano e tomam decisões que ameaçam a humanidade – são exagerados. Nick Clegg, o ex-vice-primeiro-ministro que se tornou um poderoso executivo de tecnologia, comparou a agitação em torno da IA ao “pânico moral” dos anos 80 em relação aos videogames. Um dos seus colegas – Yann LeCun, uma figura respeitada na área – descreveu as preocupações sobre a destruição da humanidade pela IA como “absurdas”.
Geralmente, porém, o otimismo é mais matizado do que a opinião apaixonada de Andreessen. Clegg, que participou da cúpula como presidente de assuntos globais da Meta de Mark Zuckerberg, reconheceu esta semana que há ameaças de curto prazo que precisam ser abordadas, como a possibilidade de que a desinformação gerada pela IA afete as eleições nos EUA, na Índia, Indonésia, México e Reino Unido no próximo ano.
“Os jornais adoram publicar fotos de robôs assustadores com olhos vermelhos brilhantes e dizer que eles vão assumir o controle amanhã. Mas, na verdade, há muito trabalho de casa que precisa ser feito sobre desafios mais próximos, o que temo que possa ficar em segundo plano em relação a alguns desses riscos mais especulativos.”
Esse otimismo reservado era típico entre os participantes da cúpula de segurança de IA. Demis Hassabis, executivo-chefe do Google DeepMind, um laboratório líder mundial de pesquisa em IA, alertou que lidar com os riscos da inteligência artificial deve ser tratado tão seriamente quanto a crise climática. Mas ele também é um optimista descarado sobre o trabalho positivo que a IA pode realizar em áreas como a saúde e a medicina, como demonstrado pelas realizações da sua unidade no mapeamento de estruturas proteicas através do programa AlphaFold.
Mustafa Suleyman, cofundador da DeepMind e agora CEO da empresa de tecnologia Inflection AI, afirma que a tecnologia trará um “enorme impulso” à economia e à sociedade, mas a indústria também precisa de eliminar potenciais danos. “Nós podemos fazer isso? É um desafio difícil, um caminho estreito, mas com foco suficiente, acredito que podemos absolutamente”.
Mesmo os especialistas mais alarmados tornaram-se mais optimistas na última semana. Max Tegmark, o professor do MIT por trás de uma carta influente pedindo uma pausa de seis meses em experimentos gigantes de IA, estava em Bletchley. Ele diz: “[The summit] na verdade me deixou mais otimista. Realmente superou minhas expectativas.”
após a promoção do boletim informativo
Alguns pessimistas continuam não convencidos das realizações da cimeira, tais como um acordo sobre o envolvimento do governo no teste de novos sistemas de IA. Noortje Marres, professora e especialista em sociologia digital na Universidade de Warwick, afirma que o comunicado da cimeira não se referia a nenhum mecanismo para envolver cidadãos e grupos afetados na governação da IA. “Por outras palavras, a IA não é apenas prejudicial, é profundamente antidemocrática”, diz ela.
Andreessen, que descreve a IA como “nossa alquimia, nossa Pedra Filosofal”, talvez se considere mais uma exceção após os acontecimentos em Bletchley esta semana. Se houver optimismo, os governos participantes na cimeira gostariam que esta fosse qualificada.
A professora Dame Muffy Calder, diretora da faculdade de ciências e engenharia da Universidade de Glasgow, diz que riscos como a desinformação e os preconceitos nos conjuntos de dados nos quais os sistemas são treinados precisam ser abordados.
“Sou um otimista. Mas vamos desenvolver aquelas áreas de aplicação onde já vimos benefícios comprovados, como saúde e medicina. E vamos concentrar-nos em como enfrentar os riscos atuais, como a desinformação, neste momento. Estas são as bases sobre as quais podemos construir o futuro da IA.”
.
