.
Ts últimos meses foram de longe os mais empolgantes dos meus 17 anos trabalhando com inteligência artificial. Entre muitos outros avanços, o ChatGPT da OpenAI – um tipo de IA conhecido como modelo de linguagem grande – quebrou recordes em janeiro para se tornar o aplicativo de consumo de crescimento mais rápido de todos os tempos, alcançando 100 milhões de usuários em dois meses.
Ninguém sabe ao certo o que acontecerá a seguir com a IA. Há muita coisa acontecendo, em muitas frentes, atrás de muitas portas fechadas. No entanto, sabemos que a IA está agora nas mãos do mundo e, como consequência, o mundo parece ser transformado.
Tal potencial transformacional se deve ao fato de que a IA é uma tecnologia de propósito geral, tanto adaptativa quanto autônoma, engarrafando um pouco da magia que levou os humanos a remodelar a Terra.
A IA é uma das poucas tecnologias práticas que podem nos permitir reprojetar nossas economias por atacado para atingir o Net Zero. Por exemplo, eu e os colaboradores temos usado IA para ajudar a prever fontes de energia renováveis intermitentes (como solar, maré e vento), para otimizar a colocação de carregadores de veículos elétricos para acesso equitativo e para melhor gerenciar e controlar as baterias.
Mesmo que a IA leve a grandes ganhos econômicos, alguns podem perder. Atualmente, a IA está sendo usada para automatizar parte do trabalho de redatores, engenheiros de software e até modelos de moda (uma ocupação que o economista Carl Frey e eu estimamos em 2013 como tendo 98% de probabilidade de automatização).
Um artigo da OpenAI estimou que quase um em cada cinco trabalhadores dos EUA pode ver metade de suas tarefas se tornarem automatizáveis por grandes modelos de linguagem. É claro que a IA provavelmente também criará empregos, mas muitos trabalhadores ainda podem sofrer precariedade sustentada e cortes salariais – por exemplo, motoristas de táxi em Londres sofreram cortes salariais de cerca de 10% após a introdução do Uber.
A IA também oferece novas ferramentas preocupantes para propaganda. De acordo com a Anistia Internacional, os algoritmos da Meta, ao promover o discurso de ódio, contribuíram substancialmente para as atrocidades perpetradas pelos militares de Mianmar contra o povo rohingya em 2017. Nossas democracias podem resistir a torrentes de desinformação direcionada?
Atualmente, a IA é inescrutável, não confiável e difícil de controlar – falhas que levaram e levarão a danos. A IA já levou a prisões injustas (como a de Michael Williams, falsamente implicado por um programa de policiamento de IA, ShotSpotter), algoritmos de contratação sexistas (como a Amazon foi forçada a admitir em 2018) e a ruína de muitos milhares de vidas (os holandeses autoridade fiscal falsamente acusou milhares, muitas vezes de minorias étnicas, de fraude de benefícios).
Talvez o mais preocupante seja que a IA pode ameaçar nossa sobrevivência como espécie. Em uma pesquisa de 2022 (embora com provável viés de seleção), 48% dos pesquisadores de IA achavam que a IA tinha uma chance significativa (maior que 10%) de extinguir os humanos. Para começar, o progresso incerto e rápido da IA pode ameaçar o equilíbrio da paz global. Por exemplo, drones subaquáticos movidos a IA que se mostram capazes de localizar submarinos nucleares podem levar uma potência militar a pensar que poderia lançar um primeiro ataque nuclear bem-sucedido.
Se você acha que a IA nunca poderia ser inteligente o suficiente para dominar o mundo, observe que o mundo foi dominado por um simples coronavírus. Ou seja, muitas pessoas tiveram seus interesses alinhados apenas o suficiente (por exemplo, “preciso trabalhar com essa tosse ou não poderei alimentar minha família”) com os de um patógeno obviamente prejudicial que deixamos a Sars -CoV-2 mata 20 milhões de pessoas e incapacita muitas dezenas de milhões mais. Ou seja, vista como uma espécie invasora, a IA pode empobrecer ou mesmo eliminar a humanidade trabalhando inicialmente dentro das instituições existentes.
Por exemplo, uma aquisição de IA pode começar com uma multinacional usando seus dados e sua IA para encontrar brechas nas regras, explorar trabalhadores, enganar consumidores, ganhar influência política, até que o mundo inteiro pareça estar sob o domínio de sua máquina burocrática. -como poder.
O que podemos fazer sobre todos esses riscos? Bem, precisamos de estratégias de governança novas e ousadas para abordar os riscos e maximizar os benefícios potenciais da IA – por exemplo, queremos garantir que não sejam apenas as maiores empresas que possam arcar com uma carga regulatória complexa. Os esforços atuais para a governança de IA são muito leves (como a abordagem regulatória do Reino Unido) ou muito lentos (como a Lei de IA da UE, já há dois anos em elaboração, oito vezes mais do que o ChatGPT levou para atingir 100 milhões de usuários).
Precisamos de mecanismos de cooperação internacional, para desenvolver princípios e padrões compartilhados e evitar uma “corrida para o fundo do poço”. Precisamos reconhecer que a IA abrange muitas tecnologias diferentes e, portanto, exige muitas regras diferentes. Acima de tudo, embora não saibamos exatamente o que acontecerá a seguir na IA, devemos começar a tomar as medidas preventivas adequadas agora.
-
Michael Osborne é professor de aprendizado de máquina na Universidade de Oxford e cofundador da Mind Foundry
.
