.
Sam Altman, CEO da OpenAI, a empresa que desenvolveu o controverso aplicativo de inteligência artificial voltado para o consumidor ChatGPT, alertou que a tecnologia vem com perigos reais à medida que remodela a sociedade.
Altman, 37, enfatizou que os reguladores e a sociedade precisam estar envolvidos com a tecnologia para se proteger contra consequências potencialmente negativas para a humanidade. “Temos que ter cuidado aqui”, disse Altman à ABC News na quinta-feira, acrescentando: “Acho que as pessoas deveriam ficar felizes por estarmos um pouco assustados com isso.
“Estou particularmente preocupado que esses modelos possam ser usados para desinformação em larga escala”, disse Altman. “Agora que estão melhorando na escrita de códigos de computador, [they] poderia ser usado para ataques cibernéticos ofensivos.”
Mas, apesar dos perigos, disse ele, também pode ser “a maior tecnologia que a humanidade já desenvolveu”.
O aviso veio quando a OpenAI lançou a versão mais recente de seu modelo de linguagem AI, GPT-4, menos de quatro meses desde que a versão original foi lançada e se tornou o aplicativo de consumo de crescimento mais rápido da história.
Na entrevista, o engenheiro de inteligência artificial disse que, embora a nova versão “não seja perfeita”, ela obteve 90% nos EUA nos exames da ordem e uma pontuação quase perfeita no teste de matemática SAT do ensino médio. Também poderia escrever código de computador na maioria das linguagens de programação, disse ele.
Os temores sobre a inteligência artificial voltada para o consumidor e a inteligência artificial em geral se concentram na substituição de humanos por máquinas. Mas Altman apontou que a IA só funciona sob direção ou entrada de humanos.
“Ele espera que alguém dê uma entrada”, disse ele. “Esta é uma ferramenta que está muito no controle humano.” Mas ele disse que tinha preocupações sobre quais humanos tinham controle de entrada.
“Haverá outras pessoas que não colocarão alguns dos limites de segurança que impomos”, acrescentou. “Acho que a sociedade tem um tempo limitado para descobrir como reagir a isso, como regular isso, como lidar com isso.”
Muitos usuários do ChatGPT encontraram uma máquina com respostas defensivas ao ponto de paranóicas. Em testes oferecidos ao telejornal, o GPT-4 realizou um teste em que elaborou receitas a partir do conteúdo de uma geladeira.
O CEO da Tesla, Elon Musk, um dos primeiros investidores na OpenAI quando ainda era uma empresa sem fins lucrativos, emitiu repetidamente alertas de que a IA ou AGI – inteligência artificial geral – é mais perigosa do que uma arma nuclear.
Almíscar dublado preocupação de que a Microsoft, que hospeda o ChatGPT em seu mecanismo de busca Bing, tenha dissolvido sua divisão de supervisão ética. “Não há supervisão regulatória da IA, que é um problema *grande*. Há mais de uma década venho pedindo regulamentação de segurança da IA!” Musk twittou em dezembro. Essa semana, Musk se preocupoutambém no Twitter, do qual é dono: “O que restará para nós, humanos, fazermos?”
Na quinta-feira, Altman reconheceu que a versão mais recente usa raciocínio dedutivo em vez de memorização, um processo que pode levar a respostas bizarras.
“O que mais tento alertar as pessoas é o que chamamos de ‘problema das alucinações’”, disse Altman. “O modelo irá afirmar as coisas com confiança como se fossem fatos totalmente inventados.
“A maneira certa de pensar nos modelos que criamos é um mecanismo de raciocínio, não um banco de dados de fatos”, acrescentou. Embora a tecnologia possa atuar como um banco de dados de fatos, disse ele, “isso não é realmente o que há de especial neles – o que queremos que eles façam é algo mais próximo da capacidade de raciocinar, não de memorizar”.
O que você ganha depende do que você coloca, alertou recentemente o Guardian em uma análise do ChatGPT. “Merecemos mais das ferramentas que usamos, da mídia que consumimos e das comunidades em que vivemos, e só receberemos o que merecemos quando formos capazes de participar plenamente deles.”
.
