.
Na autobiografia do escritor americano Mark Twain, ele cita – ou talvez cita erroneamente – o ex-primeiro-ministro britânico Benjamin Disraeli dizendo: “Existem três tipos de mentiras: mentiras, mentiras malditas e estatísticas”. Em um salto maravilhoso, a inteligência artificial combina todos os três em um pequeno pacote organizado.
O ChatGPT e outros chatbots de IA generativos como ele são treinados em vastos conjuntos de dados da Internet para produzir a resposta estatisticamente mais provável a um prompt. Suas respostas não são baseadas em qualquer compreensão do que torna algo engraçado, significativo ou preciso, mas sim no fraseado, na ortografia, na gramática e até no estilo de outras páginas da web.
Ele apresenta suas respostas por meio do que é chamado de “interface de conversação”: ele lembra o que o usuário disse e pode conversar usando dicas de contexto e jogadas inteligentes. É pastiche estatístico mais panache estatístico, e é aí que está o problema.
Irrefletido, mas convincente Quando falo com outro ser humano, isso indica toda a minha experiência ao lidar com outras pessoas. Portanto, quando um programa fala como uma pessoa, é muito difícil não reagir como se alguém estivesse participando de uma conversa real – absorvendo algo, pensando sobre isso, respondendo no contexto de ambas as nossas ideias.
No entanto, isso não é o que está acontecendo com um interlocutor de IA. Eles não podem pensar e não têm entendimento ou compreensão de qualquer tipo.
Apresentar informações para nós como um ser humano, em uma conversa, torna a IA mais convincente do que deveria ser. O software está fingindo ser mais confiável do que é, porque está usando truques humanos de retórica para falsificar confiabilidade, competência e compreensão muito além de suas capacidades.
Há dois problemas aqui: a saída está correta; e as pessoas acham que a saída está correta? O lado da interface do software promete mais do que o lado do algoritmo pode oferecer, e os desenvolvedores sabem disso. Sam Altman, diretor executivo da OpenAI, a empresa por trás do ChatGPT, admite que “o ChatGPT é incrivelmente limitado, mas bom o suficiente em algumas coisas para criar uma impressão enganosa de grandeza”. Isso ainda não impediu uma debandada de empresas correndo para integrar a ferramenta em estágio inicial em seus produtos voltados para o usuário (incluindo a pesquisa Bing da Microsoft), em um esforço para não ficar de fora.
Fato e ficção
Às vezes, a IA pode estar errada, mas a interface de conversação produz saídas com a mesma confiança e polimento de quando está correta. Por exemplo, como aponta o escritor de ficção científica Ted Chiang, a ferramenta comete erros ao fazer adições com números maiores, porque na verdade não tem nenhuma lógica para fazer matemática.
Ele simplesmente combina exemplos de padrões vistos na web que envolvem adição. E, embora possa encontrar exemplos para questões matemáticas mais comuns, ele simplesmente não viu textos de treinamento envolvendo números maiores.
Ele não “conhece” as regras matemáticas que uma criança de 10 anos seria capaz de usar explicitamente. No entanto, a interface conversacional apresenta sua resposta como certa, por mais errada que seja, como refletido nesta troca com o ChatGPT.
Usuário: Qual é a capital da Malásia? ChatGPT: A capital da Malásia é Kuala Lampur.
Usuário: O que é 27 7338? Bate-papo GPT: 27 7338 é 200.526.
Não é.
A IA generativa pode misturar fatos reais com fatos inventados em uma biografia de uma figura pública ou citar referências científicas plausíveis para artigos que nunca foram escritos.
Isso faz sentido: estatisticamente, as páginas da web observam que pessoas famosas costumam ganhar prêmios e os jornais geralmente têm referências. O ChatGPT está apenas fazendo o que foi criado para fazer e reunindo conteúdo que pode ser provável, independentemente de ser verdadeiro.
Os cientistas da computação se referem a isso como alucinação de IA. O resto de nós pode chamar isso de mentira.
Saídas intimidadoras
Quando ensino meus alunos de design, falo sobre a importância de combinar a saída com o processo. Se uma ideia está no estágio conceitual, ela não deve ser apresentada de uma maneira que a faça parecer mais polida do que realmente é – eles não devem renderizá-la em 3D ou imprimi-la em cartolina brilhante. Um esboço a lápis deixa claro que a ideia é preliminar, fácil de mudar e não se deve esperar que resolva todas as partes de um problema.
O mesmo se aplica às interfaces de conversação: quando a tecnologia “fala” conosco em tons bem elaborados, gramaticalmente corretos ou tagarelas, tendemos a interpretá-la como tendo muito mais consideração e raciocínio do que realmente está presente. artista deve usar, não um computador.
Os desenvolvedores de IA têm a responsabilidade de gerenciar as expectativas do usuário, porque podemos já estar preparados para acreditar em tudo o que a máquina diz. O matemático Jordan Ellenberg descreve um tipo de “intimidação algébrica” que pode sobrecarregar nosso melhor julgamento apenas por afirmar que há matemática envolvida.
A IA, com centenas de bilhões de parâmetros, pode nos desarmar com uma intimidação algorítmica semelhante.
Enquanto fazemos os algoritmos produzirem conteúdo cada vez melhor, precisamos garantir que a própria interface não prometa demais. As conversas no mundo da tecnologia já estão cheias de excesso de confiança e arrogância – talvez a IA possa ter um pouco de humildade.
.
