.
Um cientista britânico conhecido por suas contribuições à inteligência artificial disse à Strong The One que poderosos sistemas de IA “não podem ser controlados” e “já estão causando danos”.
O professor Stuart Russell foi um dos mais de 1.000 especialistas que no mês passado assinou uma carta aberta pedindo uma pausa de seis meses no desenvolvimento de sistemas ainda mais capazes do que o recém-lançado OpenAI GPT-4 – o sucessor de seu chatbot online ChatGPT, que é alimentado por GPT-3.5.
O destaque do novo modelo é a sua capacidade de reconhecer e explicar imagens.
Falando a Sky’s Sophy Ridge, o professor Russell disse sobre a carta: “Assinei porque acho que é preciso dizer que não entendemos como essas [more powerful] funcionam os sistemas. Não sabemos do que são capazes. E isso significa que não podemos controlá-los, não podemos fazer com que eles se comportem.”
Ele disse que “as pessoas estavam preocupadas com a desinformação, com o viés racial e de gênero nos resultados desses sistemas”.
E ele argumentou com a rápida progressão de IAfoi necessário tempo para “desenvolver os regulamentos que garantirão que os sistemas sejam benéficos para as pessoas e não prejudiciais”.
Ele disse que uma das maiores preocupações era a desinformação e deep fakes (vídeos ou fotos de uma pessoa em que seu rosto ou corpo foi alterado digitalmente para parecer outra pessoa – normalmente usados de forma maliciosa ou para espalhar informações falsas).
Ele disse que, embora a desinformação exista há muito tempo para fins de “propaganda”, a diferença agora é que, usando Sophy Ridge como exemplo, ele poderia pedir ao GPT-4 para tentar “manipulá-la” para que ela “apoie menos Ucrânia”.
Ele disse que a tecnologia leria a presença de mídia social de Ridge e o que ela já disse ou escreveu e, em seguida, realizaria uma campanha gradual para “ajustar” seu feed de notícias.
O professor Russell disse a Ridge: “A diferença aqui é que agora posso pedir ao GPT-4 para ler tudo sobre a presença de Sophy Ridge na mídia social, tudo que Sophy Ridge já disse ou escreveu, tudo sobre os amigos de Sophy Ridge e então começar uma campanha gradualmente ajustando seu feed de notícias, talvez ocasionalmente enviando algumas notícias falsas em seu feed de notícias para que você apoie um pouco menos a Ucrânia e comece a pressionar mais os políticos que dizem que devemos apoiar a Ucrânia na guerra contra a Rússia e assim por diante.
“Isso será muito fácil de fazer. E o mais assustador é que poderíamos fazer isso para um milhão de pessoas diferentes antes do almoço.”
Use o navegador Chrome para um player de vídeo mais acessível
Este chatbot substituirá os humanos?
O especialista, que é professor de ciência da computação na Universidade da Califórnia, em Berkeley, alertou para “um enorme impacto com esses sistemas para pior ao manipular as pessoas de maneiras que elas nem percebem que está acontecendo”.
Ridge descreveu isso como “genuinamente muito assustador” e perguntou se esse tipo de coisa estava acontecendo agora, ao que o professor respondeu: “Muito provavelmente, sim.”
Ele disse que China, Rússia e Coreia do Norte têm grandes equipes que “difundem desinformação” e com a IA “demos a eles uma ferramenta poderosa”.
“A preocupação da carta é realmente sobre a próxima geração do sistema. No momento, os sistemas têm algumas limitações em sua capacidade de construir planos complicados.”
Consulte Mais informação:
O que é o GPT-4 e como ele melhora o ChatGPT?
Elon Musk revela plano para construir ‘TruthGPT’ apesar de alertar sobre os perigos da IA
Ele sugeriu que na próxima geração de sistemas, ou na seguinte, as corporações poderiam ser administradas por sistemas de IA. “Você pode ver campanhas militares sendo organizadas por sistemas de IA”, acrescentou.
“Se você está construindo sistemas que são mais poderosos que os seres humanos, como os seres humanos mantêm o poder sobre esses sistemas para sempre? Essa é a verdadeira preocupação por trás da carta aberta.”
Clique para se inscrever no podcast Sophy Ridge on Sunday
O professor disse que estava tentando convencer os governos da necessidade de começar a planejar com antecedência para quando “precisarmos mudar a maneira como todo o nosso ecossistema digital… funciona”.
Desde que foi lançado no ano passado, o ChatGPT da OpenAI, apoiado pela Microsoft, levou os rivais a acelerar o desenvolvimento de modelos de linguagem grandes semelhantes e encorajou as empresas a integrar modelos de IA generativos em seus produtos.
Reino Unido apresenta propostas para regulamentações de ‘toque leve’ em torno da IA
Ele vem como o governo do Reino Unido revelou recentemente propostas para um quadro regulamentar de “toque leve” em torno da IA.
A abordagem do governo, descrita em um documento de política, dividiria a responsabilidade de governar a IA entre seus reguladores de direitos humanos, saúde e segurança e concorrência, em vez de criar um novo órgão dedicado à tecnologia.
.
