Os riscos da IA ​​são algo que a humanidade pode administrar – vamos trabalhar em como ela pode nos salvar de nós mesmos | Notícias de ciência e tecnologia

Parece que não passa um dia sem que outro líder de pensamento avise sobre o claro perigo que a inteligência artificial representa para a civilização como a conhecemos.

Embora não estejam necessariamente errados, eu diria que o risco de IA é algo que a humanidade pode administrar.

Mas a preocupação com a distopia digital está nos distraindo de uma ameaça existencial muito real que não estamos fazendo bem em abordar – o colapso cada vez mais rápido do ambiente que nos sustenta.

Isso não quer dizer que não devamos nos preocupar muito com a IA.

No mês passado, centenas de especialistas, incluindo alguns dos maiores nomes da pesquisa de IA, endossaram uma declaração do Center for AI Safety em San Francisco dizendo: “Mitigar o risco de extinção da IA ​​deve ser uma prioridade global junto com outros riscos em escala social como pandemias e guerra nuclear”.

Se os atores mal-intencionados derem a grandes modelos de IA as instruções necessárias, ou os bons atores perderem o controle de suas criações, uma IA ou um grupo deles trabalhando juntos pode causar um dano enorme.

E não porque tenham inteligência “semelhante à humana”, mas, como Google AI “padrinho” Geoffery Hinton adverte, justamente porque não o fazem.

Mas embora a “extinção” devido à IA possa ser teoricamente possível, e é certo começar a pensar seriamente sobre isso, é uma grande palavra a ser lançada quando um evento de extinção muito mais plausível está se acelerando bem na nossa frente.

Temperaturas ‘alarmantes’

Na mesma semana em que foi emitida a última proclamação do Juízo Final da IA, um grupo muito diferente de cientistas começou a falar sobre o que estava acontecendo no Atlântico Norte.

As temperaturas da superfície do mar estão subindo a um nível e a uma velocidade que surpreende até mesmo os cientistas do clima mais frios.

As razões para o súbito aumento nas temperaturas oceânicas são complexas, mas ainda “alarmantes”, diz a Dra. Marilena Oltmanns, física marinha do Centro Nacional de Oceanografia em Southampton.

“Em última análise, o calor é energia”, diz ela. “Em um clima mais quente, mais energia está disponível para impulsionar o sistema climático”.

Essa energia é o que permite que a atmosfera ganhe umidade – aumentando a intensidade das tempestades.

Alguém tentando chegar em casa em tempestades no sul da Inglaterra esta semana não precisava de uma simulação de IA para lhe dizer como é.

Cooperação internacional essencial

A IA precisa de regulamentação, precisa de consenso internacional.

Seu potencial é tão grande e poderoso que não será fácil persuadir os países que lideram seu desenvolvimento, como os EUA e a China, a se sentarem à mesa para chegar a um acordo sobre algumas regras básicas. Mas a história sugere que isso não é impossível.

Durante a Guerra Fria, os EUA e a União Soviética concordaram em uma forma de reduzir o risco da crise existencial da época – a aniquilação nuclear.

Embora essa ameaça seja maior agora do que em qualquer outro momento desde a Guerra Fria, ainda há alguma confiança nas regras para evitar que isso aconteça.

No final da década de 1990, a maioria das nações adotou uma moratória sobre a biotecnologia da clonagem para impedir que alguém tentasse criar uma vida humana. E mesmo em países onde não há leis para evitar isso, não é aceitável.

As autoridades chinesas reagiram duramente a um médico local que alegou ter manipulado embriões humanos.

Os humanos são brilhantes em criar ferramentas novas e terrivelmente poderosas, como bombas nucleares e biotecnologia.

A IA é uma dessas ferramentas. Mas temos demonstrado uma capacidade de regulá-los.

Consulte Mais informação:
A IA pode ser usada para fornecer ‘aprendizado personalizado’ para crianças em idade escolar, diz Rishi Sunak
‘Regule antes que acabemos’: Músicos reagem a músicas de IA que inundam a internet

Um ambiente de sacrifício

Talvez esta seja uma visão excessivamente otimista – mas certamente é mais do que você pode dizer sobre nossa capacidade de reinar em outro aspecto da natureza humana – obter lucros às custas do meio ambiente.

Apesar de mais de 20 anos de negociações internacionais para lidar com as mudanças climáticas, as emissões de carbono continuam aumentando.

O meio ambiente (por exemplo, nossas florestas e oceanos), no qual se baseia toda a nossa produção econômica, continua a se esgotar mais rapidamente do que pode se substituir.

E é aqui que a IA pode vir para nossa salvação.

Não pode resolver todos os problemas da humanidade, mas dar aos químicos IAs poderosos pode produzir novos catalisadores que removem o carbono da atmosfera.

Os físicos já o estão usando para acelerar o desenvolvimento da fusão nuclear, fornecendo energia ilimitada sem aquecer o planeta.

Pesquisadores da gigante de tecnologia Nvidia estão tentando explorar o vasto poder de computação para criar um “gêmeo digital” do planeta que poderia permitir que a inteligência artificial nos guiasse por algumas das opções limitadas que nos restam para evitar uma catástrofe ecológica.

A inteligência humana evoluiu ao longo de milhões de anos e na tendência atual, em meados deste século, o planeta estará mais quente do que nunca durante esse longo processo evolutivo.

Vamos parar de nos preocupar em como a inteligência artificial irá nos substituir e, em vez disso, trabalhar em como usá-la para nos salvar de nós mesmos.