.
Desde o seu lançamento em novembro do ano passado, o ChatGPT se tornou um sucesso extraordinário. Essencialmente um chatbot aprimorado, o programa de IA pode produzir respostas para as maiores e menores perguntas da vida e redigir ensaios universitários, histórias fictícias, haicais e até mesmo cartas de candidatura a empregos. Ele faz isso com base no que colheu de uma quantidade impressionante de texto na Internet, com orientação cuidadosa de especialistas humanos. Faça uma pergunta ao ChatGPT, como milhões fizeram nas últimas semanas, e ele fará o possível para responder – a menos que saiba que não pode. As respostas são escritas com confiança e fluência, mesmo que às vezes estejam espetacularmente erradas.
O programa é o mais recente a surgir do OpenAI, um laboratório de pesquisa na Califórnia, e é baseado em uma IA anterior do equipamento, chamada GPT-3. Conhecido na área como um grande modelo de linguagem ou LLM, a IA é alimentada com centenas de bilhões de palavras na forma de livros, conversas e artigos da web, a partir dos quais constrói um modelo, baseado em probabilidade estatística, das palavras e frases que tendem a seguir qualquer texto que veio antes. É um pouco como o texto preditivo em um telefone celular, mas ampliado massivamente, permitindo que ele produza respostas inteiras em vez de palavras isoladas.
O avanço significativo com o ChatGPT está no treinamento extra que recebeu. O modelo de linguagem inicial foi ajustado com um grande número de perguntas e respostas fornecidas por treinadores humanos de IA. Estes foram então incorporados ao seu conjunto de dados. Em seguida, o programa foi solicitado a produzir várias respostas diferentes para uma ampla variedade de perguntas, que especialistas humanos classificaram da melhor para a pior. Esse ajuste fino guiado por humanos significa que o ChatGPT costuma ser altamente impressionante ao descobrir quais informações uma pergunta realmente busca, reunir as informações corretas e enquadrar uma resposta de maneira natural.
O resultado, de acordo com Elon Musk, é “assustador”, como muitos dos primeiros usuários – incluindo estudantes universitários que o veem como um salvador para tarefas atrasadas – podem atestar. Também é mais difícil de corromper do que os chatbots anteriores. Ao contrário dos chatbots mais antigos, o ChatGPT foi projetado para recusar perguntas inapropriadas e evitar inventar coisas, produzindo respostas sobre questões nas quais não foi treinado. Por exemplo, o ChatGPT não conhece nada no mundo pós-2021, pois seus dados não foram atualizados desde então. Também tem outras limitações mais fundamentais. O ChatGPT não controla a verdade, portanto, mesmo quando as respostas são fluentes e plausíveis, não há garantia de que estejam corretas.
O professor Michael Wooldridge, diretor de pesquisa fundamental de IA no Alan Turing Institute em Londres, diz: “Se eu escrever uma mensagem de texto para minha esposa que comece: ‘Eu vou ser …’, pode sugerir as próximas palavras ‘ no pub’ ou ‘tarde’, porque olhou para todas as mensagens que enviei para minha esposa e aprendi que essas são as maneiras mais prováveis de completar essa frase. O ChatGPT faz exatamente a mesma coisa em uma escala massivamente grande.
“Esses são os primeiros sistemas que realmente me entusiasmam. Levaria 1.000 vidas humanas para ler a quantidade de texto em que o sistema foi treinado e escondido em todo esse texto é uma quantidade enorme de conhecimento sobre o mundo.”
Como observa a OpenAI: “Às vezes, o ChatGPT escreve respostas que parecem plausíveis, mas incorretas ou sem sentido” e “às vezes responde a instruções prejudiciais ou exibe comportamento tendencioso”. Ele também pode dar respostas longas, um problema que seus desenvolvedores atribuem aos treinadores “preferindo respostas longas que parecem mais abrangentes”.
“Um dos maiores problemas com o ChatGPT é que ele volta, com muita confiança, com falsidades”, diz Wooldridge. “Não sabe o que é verdadeiro ou falso. Não sabe sobre o mundo. Você absolutamente não deve confiar nisso. Você precisa verificar o que diz.
“Não estamos nem perto do sonho hollywoodiano da IA. Não pode amarrar um par de cadarços ou andar de bicicleta. Se você pedir uma receita de omelete, provavelmente fará um bom trabalho, mas isso não significa que ele saiba o que é uma omelete.” É um trabalho em andamento, mas ainda assim transformador.
.
