.
Stephen Cave tem uma experiência considerável de ações bem-intencionadas que têm consequências infelizes. Um ex-diplomata sênior do Ministério das Relações Exteriores durante a era do Novo Trabalhismo, ele esteve envolvido em negociações de tratados que mais tarde – e inesperadamente – se desenrolaram para desencadear vários eventos internacionais que incluíram o Brexit. “Eu conheço o impacto de eventos globais bem-intencionados que deram errado”, ele admite.
Sua experiência pode ser valiosa, no entanto. O ex-diplomata, agora um acadêmico sênior, está prestes a chefiar um novo instituto da Universidade de Cambridge que investigará todos os aspectos da inteligência artificial em uma tentativa de identificar os perigos intelectuais que enfrentamos com a crescente proeza dos computadores e destacar seus usos positivos. Uma avaliação dos perigos das consequências não intencionais deve ser útil. “Tem havido muita ênfase na mídia sobre a IA levando à extinção humana ou ao colapso da civilização”, diz Cave. “Esses medos são exagerados, mas isso não significa que a IA não causará danos à sociedade se não formos cuidadosos.”
Os possíveis perigos incluem o desemprego generalizado, à medida que as máquinas assumem os empregos na educação, jornalismo, direito e academia; a disseminação da desinformação; o acúmulo ilícito de dados pessoais; o uso de software de reconhecimento facial para rastrear manifestantes; e a influência perniciosa das linhas de bate-papo de IA. Um exemplo desse último perigo foi ilustrado na semana passada, quando um tribunal do Reino Unido foi informado de que um chatbot de IA estava envolvido em encorajar Jaswant Singh Chail em uma tentativa de matar a falecida rainha com uma besta.
A IA pode não ter resultados apocalípticos, mas seu potencial de ruptura é claramente considerável. “O poder está sendo concentrado nas mãos de algumas grandes corporações que têm o monopólio sobre a maneira como a IA está sendo construída”, diz Eleanor Drage, que liderará uma equipe de pesquisadores no novo instituto. “Esse é o tipo de coisa que devemos temer, porque pode resultar no uso indevido da IA.”
O Cambridge Institute for Technology and Humanity reunirá três estabelecimentos universitários: o Leverhulme Center for the Future of Intelligence; o Centro de Estudos do Risco Existencial, que se dedica ao estudo de todas as ameaças que podem levar à extinção humana ou ao colapso civilizacional; e o recém-criado Center for Human Inspired Artificial Intelligence, que se concentrará em encontrar maneiras de avançar a IA para o benefício da humanidade.
O instituto resultante, que abrirá ainda este ano, enfrentará as ameaças da IA e também se concentrará em suas perspectivas de trazer benefícios para o mundo. Isso será feito combinando uma ampla gama de talentos – de escritores a cientistas da computação e de filósofos a artistas, acrescenta Cave. “O instituto terá um foco muito interdisciplinar e voltado para o exterior”, insiste. Um ponto crucial enfatizado por Cave e Drage foi o impacto das transformações tecnológicas passadas nas sociedades. “A energia a vapor e a revolução agrícola foram incrivelmente perturbadoras. Algumas pessoas se saíram bem, mas muitas outras perderam seus empregos e casas.
“A IA tem potencial para fazer isso, e teremos que ter muito cuidado para garantir que os últimos efeitos sejam reduzidos ao mínimo. No entanto, as mudanças que ela está trazendo estão chegando em um ritmo muito mais rápido do que as revoluções tecnológicas anteriores.”
Um grande problema descrito por Drage é a grande preponderância de homens na indústria de IA. “Apenas 22% dos profissionais de IA são mulheres”, disse ela ao Observador. “Também não há nenhum incentivo da mídia para que isso melhore. Na mídia, nos filmes, apenas 8% dos cientistas de IA são retratados como mulheres. As mulheres são vistas como não tendo lugar na indústria”.
Em vez disso, as representações são dominadas por personagens como Tony Stark, o alter ego do Homem de Ferro nos filmes da Marvel. Supostamente graduado pelo Instituto de Tecnologia de Massachusetts aos 17 anos, Stark consolida a construção cultural do engenheiro de IA como um visionário masculino, diz Drage. Ele, em vez da imagem de Arnold Schwarzenegger Terminator normalmente usada para ilustrar ameaças de IA, é a personificação real de seus perigos.
“Não é um ponto trivial. Se as mulheres são retratadas como não tendo um papel efetivo a desempenhar na IA em nenhum nível, os produtos e serviços que a indústria produz podem facilmente acabar discriminando ativamente as mulheres”.
após a promoção do boletim informativo
Tanto Cave quanto Drage enfatizam que o novo instituto de Cambridge não apenas emitirá alertas sobre a IA, mas também trabalhará para buscar seus benefícios.
“A IA nos permite ver padrões nos dados que os humanos não conseguem entender, e isso trará benefícios para todos os tipos de campos: da descoberta de medicamentos ao uso aprimorado de energia e da medicina personalizada ao aumento da eficiência nas culturas aquáticas”, acrescenta Cave. “Temos muito a ganhar – e muito a perder, a menos que sejamos cuidadosos.”
.
