Hiltzik: O hype da IA ​​é tão antigo quanto a própria IA

Aqueles de nós que passaram as últimas décadas relatando sobre tecnologia viram modismos e modas surgirem e caírem em bolhas de investimento.

No final da década de 1990, foram as empresas pontocom, mais recentemente cripto, blockchain, NFTs, carros sem motorista, o “metaverso”. Todos tiveram seu dia ao sol em meio a promessas de que mudariam o mundo, ou pelo menos os bancos e as finanças, as artes, o transporte, a sociedade em geral. Até o momento, essas promessas são espetacularmente não cumpridas.

Isso nos leva aos chatbots de inteligência artificial.

Desde outubro passado, quando levantei uma bandeira vermelha sobre o hype no campo da inteligência artificial, o entusiasmo dos investidores só cresceu exponencialmente (assim como os temores do público).

Wall Street e investidores de risco estão investindo bilhões de dólares em startups de IA – a Microsoft sozinha fez um investimento de US$ 10 bilhões na OpenAI, a empresa que produziu o bot ChatGPT.

As empresas que buscam capital aprenderam que precisam apenas reivindicar uma conexão de IA para trazer investidores às suas portas, assim como as startups digitaram “ponto-com” em seus planos de negócios algumas décadas atrás. A Nvidia Corp. adquiriu um valor de mercado de trilhões de dólares com a força de um chip que fabrica e que é considerado crucial para o processamento de dados exigido pelos chatbots de IA.

Os promotores de IA estão entusiasmados com as capacidades de seus produtos (e lucros potenciais).

Aqui está o capitalista de risco Marc Andreessen: Entre as vantagens de “nossa nova era de IA”, ele escreveu recentemente, “toda criança terá um tutor de IA que é infinitamente paciente, infinitamente compassivo, infinitamente conhecedor, infinitamente útil”; cada pessoa “um assistente/treinador/mentor/treinador/conselheiro/terapeuta de IA”; todo cientista “um assistente/colaborador/parceiro de IA”; todo líder político é o mesmo assessor superinteligente.

Não há muito a ser dito sobre essa previsão, exceto que é cativante em sua ingenuidade infantil, visto que no mundo de hoje ainda não conseguimos conexões de internet banda larga, originadas na década de 1990, para milhões de americanos. Você ficaria surpreso em saber que a empresa de risco de Andreessen investiu em mais de 40 empresas relacionadas à IA? Nem eu.

Andreessen também escreveu: “Qualquer coisa que as pessoas fazem com sua inteligência natural hoje pode ser feita muito melhor com IA”.

Isso provavelmente não é verdade. Exemplos de IA que confundem as expectativas de seus usuários têm se acumulado quase semanalmente.

Entre os casos mais famosos está o de um advogado de Nova York que entrou com uma petição em um processo judicial federal citando ou citando dezenas de processos fictícios gerados pelo ChatGPT. Quando o juiz ordenou que o advogado verificasse as citações, ele perguntou ao ChatGPT se eram reais, o que é um pouco como perguntar a uma jovem mãe se seu bebê é o bebê mais adorável de todos os tempos. O bot disse, com certeza, outra “alucinação”.

No final, o advogado e seus associados foram multados em $ 5.000 e obrigados a escrever cartas abjetas de desculpas às partes opostas e a todos os juízes que o bot havia falsamente identificado com os casos falsos. Ele também perdeu o processo.

Relatos de outros fiascos semelhantes são abundantes. Uma associação de distúrbios alimentares substituiu os humanos que trabalhavam em sua linha de apoio por um chatbot, possivelmente como um movimento destruidor do sindicato – mas depois teve que colocar o bot offline porque, segundo o Vice, estava incentivando os chamadores a adotar “hábitos alimentares pouco saudáveis”.

Um professor do Texas reprovou uma turma inteira porque o ChatGPT alegou ser o autor de seus trabalhos. A administração da universidade exonerou quase todos os alunos depois que eles provaram que o bot estava errado; alguém até submeteu a dissertação de doutorado do professor ao bot, que alegou tê-la escrito também.

As alegações feitas sobre as habilidades ou perigos dos chatbots de IA muitas vezes se mostraram equivocadas ou quiméricas.

Uma equipe de pesquisadores do MIT pretendeu descobrir que o ChatGPT poderia vencer os currículos de matemática e ciência da computação da escola com “uma taxa de resolução perfeita” nos testes de disciplinas; sua descoberta foi desmascarada por um grupo de estudantes do MIT. (O artigo original foi retirado.) Um relatório revelador de que um programa de IA em uma simulação da Força Aérea “matou” seu operador humano para perseguir seus objetivos programados (estilo HAL) acabou sendo fictício.

Portanto, é útil examinar de perto o que os chatbots de IA podem ou não fazer. Podemos começar com a terminologia. Para esses programas, “inteligência artificial” é um nome impróprio. Eles não são inteligentes no sentido de que humanos e animais são inteligentes; eles são projetados apenas para parecerem inteligentes para um estranho que não tem conhecimento dos processos eletrônicos que ocorrem lá dentro. De fato, usar o próprio termo distorce nossa percepção do que eles estão fazendo.

Esse problema foi percebido por Joseph Weizenbaum, o designer do chatbot pioneiro ELIZA, que replicou as respostas de um psicoterapeuta de forma tão convincente que até mesmo os participantes do teste que sabiam que estavam conversando com uma máquina pensaram que ela exibia emoções e empatia.

“O que eu não havia percebido”, escreveu Weizenbaum em 1976, “é que exposições extremamente curtas a um programa de computador relativamente simples podem induzir pensamentos delirantes poderosos em pessoas bastante normais”. Weizenbaum alertou que a “antropomorfização imprudente do computador” – isto é, tratá-lo como uma espécie de companheiro pensante – produziu uma “visão simplista… da inteligência”.

Mesmo os computadores mais avançados não tinham capacidade de adquirir informações além de serem “alimentados com colher”, escreveu Weizenbaum. Isso é verdade para os chatbots de hoje, que adquirem seus dados “raspando” textos encontrados na web; é só que a capacidade deles de devorar dados é muito maior agora, graças a melhorias exponenciais no poder de computação, do que em 1976.

Os chatbots que atraem tanto interesse hoje são o que os pesquisadores de IA chamam de IA “generativa” – que usa regras estatísticas para responder a consultas extrapolando os dados adquiridos anteriormente.

Em sua essência, diz o tecnólogo australiano David Gerard, o ChatGPT é “um preenchimento automático estupendamente ampliado”, como um programa de processamento de texto que prevê o final de uma palavra ou frase que você começou a digitar. O programa “apenas vomita combinações de palavras com base em grandes quantidades de texto de treinamento”.

O entusiasmo profissional por esses programas – previsões de que eles nos aproximaram da verdadeira inteligência artificial, ou que são capazes de aprender, ou que abrigam o potencial de destruir a raça humana – pode parecer sem precedentes.

Mas isso não. As mesmas previsões seguras – o que Weizenbaum chamou de “fantasias grandiosas” – fazem parte do mundo da IA ​​desde o seu início. Em 1970, Marvin Minsky do MIT, um dos padrinhos da IA, disse à Time que “Em três a oito anos teremos uma máquina com a inteligência geral de um ser humano médio… uma máquina que será capaz de ler Shakespeare, engraxar um carro, fazer política de escritório, contar uma piada e brigar… Em alguns meses, estará no nível de gênio e alguns meses depois seus poderes serão incalculáveis.

Minsky e seus contemporâneos finalmente tiveram que reconhecer que os programas que pareciam mostrar um potencial ilimitado eram adequados apenas dentro de limites estreitos. Isso ainda é verdade.

O ChatGPT pode produzir poesia doggerel ou ensaios para calouros e alunos do segundo ano, passar em testes em alguns assuntos técnicos, escrever comunicados à imprensa, compilar processos legais com um verniz de profissionalismo.

Mas todas essas são classes genéricas de escrita; as amostras produzidas por humanos nessas categorias geralmente têm uma qualidade robótica e vazia. Solicitados a produzir algo verdadeiramente original ou criativo, os chatbots falham ou, como descobriram aqueles infelizes advogados, fabricam. (Quando Charlie Brooker, criador da série de TV “Black Mirror”, pediu ao ChatGPT para escrever um episódio, o produto era de uma qualidade que ele descreveu com um epíteto impublicável.)

Isso pode dar uma pausa nas empresas que esperam contratar chatbots para reduzir suas folhas de pagamento humanas. Quando eles descobrem que podem ter que contratar trabalhadores para verificar a saída do chat para evitar atrair a ira do cliente ou até mesmo ações judiciais, eles podem não estar tão ansiosos para dar aos bots até mesmo responsabilidades de rotina, muito menos atribuições de missão crítica.

Por sua vez, isso pode indicar o destino do atual frenesi de investimentos. “A primavera otimista da IA ​​dos anos 1960 e início dos anos 1970”, escreve Melanie Mitchell, do Santa Fe Institute, deu lugar ao “inverno da IA”, no qual o financiamento do governo e o entusiasmo popular desmoronaram.

Outro boom, desta vez sobre “sistemas especialistas”, materializou-se no início dos anos 1980, mas desapareceu no final da década. (“Quando recebi meu PhD em 1990, fui aconselhado a não usar o termo ‘inteligência artificial’ em meus formulários de emprego”, escreve Mitchell.) Cada década parecia ter seus altos e baixos.

A IA é genuinamente ameaçadora? Mesmo os alertas assustadores emitidos sobre os perigos da tecnologia e a necessidade de regulamentação parecem campanhas promocionais disfarçadas. Seu motivo oculto, escreve Ryan Calo da Universidade de Washingtoné “concentrar a atenção do público em um cenário improvável que não requer muita mudança em seus modelos de negócios” e convencer o público de que a IA é excepcionalmente poderosa (se implantada com responsabilidade).

Curiosamente, Sam Altman, CEO da OpenAI, fez lobby junto à União Europeia para não “regulamentar demais” seus negócios. Os regulamentos da UE, por acaso, se concentrariam em questões de curto prazo relacionadas a perdas de empregos, violações de privacidade e violações de direitos autorais.

Algumas dessas preocupações são as motivações da greve dos roteiristas que está acontecendo agora em Hollywood e a possível greve dos atores, que pode acontecer já na sexta-feira – os membros do sindicato estão preocupados com a possibilidade de perderem o trabalho para bots de IA explorados por produtores baratos e chefes de estúdio que acham que o público é burro demais para saber a diferença entre criatividade humana e robótica.

O que é pouco reconhecido pelos empreendedores de IA de hoje, como seus predecessores, é o quão difícil será pular da classe atual de chatbots para a verdadeira inteligência de máquina.

A imagem da inteligência humana como o produto meramente de cem trilhões de conexões neurais no cérebro humano – um número insondável por o cérebro humano – leva alguns pesquisadores de IA a supor que, uma vez que seus programas atinjam essa escala, suas máquinas se tornarão conscientes. São os últimos problemas difíceis em alcançar a inteligência, muito menos a consciência, que podem ser intransponíveis: os pesquisadores humanos nem mesmo chegaram a um acordo sobre uma definição de inteligência e falharam em identificar a sede da consciência.

Existe um papel razoável em nossas vidas para os chatbots? A resposta é sim, se forem vistos como ferramentas para aumentar o aprendizado, não para trapacear; os professores estão preocupados em identificar tarefas geradas por bate-papo, mas com o tempo eles usarão as mesmas técnicas que usam para identificar plágio – comparando o produto com o que eles sabem sobre as capacidades de seus alunos e rejeitando aqueles que parecem muito polidos (ou têm erros).

O ChatGPT pode ajudar estudantes, escritores, advogados e médicos a organizar grandes quantidades de informações ou dados para ajudar a esclarecer as ideias ou produzir insights criativos. Pode ser útil da mesma forma que professores inteligentes aconselham os alunos a usar outros recursos da web com limitações óbvias, como a Wikipedia: eles podem ser o primeiro lugar que se consulta na preparação de uma tarefa, mas é melhor não ser o último.