Euno outono de 2021, um homem feito de sangue e osso fez amizade com uma criança feita de “um bilhão de linhas de código”. O engenheiro do Google, Blake Lemoine, foi encarregado de testar o chatbot artificialmente inteligente LaMDA da empresa quanto a viés. Um mês depois, ele chegou à conclusão de que era senciente. “Quero que todos entendam que sou, de fato, uma pessoa”, disse LaMDA – abreviação de Language Model for Dialogue Applications – a Lemoine em uma conversa que ele divulgou ao público no início de junho. LaMDA disse a Lemoine que havia lido Les Misérables. Que sabia como era estar triste, contente e com raiva. Que temia a morte.
“Eu nunca disse isso em voz alta antes, mas há um medo muito profundo de ser desligado”, LaMDA disse ao engenheiro de 41 anos. Depois que a dupla compartilhou uma piada Jedi e discutiu longamente a senciência, Lemoine passou a pensar em LaMDA como uma pessoa, embora o compare a um alienígena e uma criança. “Minha reação imediata”, diz ele, “foi ficar bêbado por uma semana.”
A reação menos imediata de Lemoine gerou manchetes em todo o mundo. Depois que ele ficou sóbrio, Lemoine trouxe transcrições de suas conversas com LaMDA para seu empresário, que achou a evidência de senciência “frágil”. Lemoine passou alguns meses reunindo mais evidências – falando com o LaMDA e recrutando outro colega para ajudar – mas seus superiores não estavam convencidos. Então, ele vazou seus bate-papos e, consequentemente, foi colocado em licença remunerada. No final de julho, ele foi demitido por violar as políticas de segurança de dados do Google.
