.
A tecnologia de IA, por muito tempo uma visão promissora do futuro, mas uma experiência nada assombrosa no presente, está começando a funcionar. E o mundo vai ficar estranho como resultado.
O ChatGPT é a mais recente ferramenta de IA a se tornar viral, gerando preocupação e admiração em igual medida. Da nossa história:
O sistema … é a mais recente evolução da família GPT de IAs de geração de texto. Dois anos atrás, a IA anterior da equipe, GPT-3, foi capaz de gerar um artigo de opinião para o Guardian, e o ChatGPT tem recursos adicionais significativos.
Nos dias desde que foi lançado, os acadêmicos geraram respostas para perguntas de exames que, segundo eles, resultariam em nota máxima se enviadas por um aluno de graduação, e os programadores usaram a ferramenta para resolver desafios de codificação em linguagens de programação obscuras em questão de segundos – antes escrevendo limericks explicando a funcionalidade.
É surpreendentemente difícil explicar por que o ChatGPT é uma melhoria do GPT-3. Algumas das mudanças são claras: a interface focada em bate-papo da ferramenta mais recente torna mais fácil ter um vai-e-vem com a IA, o que significa que você não precisa disputar o prompt perfeito por meio de tentativa e erro.
Da mesma forma, novas ferramentas de segurança incorporadas ao ChatGPT são imediatamente aparentes. Tente fazer com que ele lhe dê instruções sobre ilegalidade e ele se recusará; pergunte a ele como se sente sendo uma IA e ele explicará que não tem sentimentos; solicite informações sobre eventos que aconteceram desde que foi treinado e dirá que não sabe sobre eles, em vez de inventar alguns.
Mas brinque com o sistema – o que, pela primeira vez, qualquer um pode fazer com facilidade no site da OpenAI – e outra coisa fica clara, penso eu: isso não é novidade. É uma ferramenta que já é poderosa e útil.
Use-o como um mecanismo de pesquisa e ele pode responder a perguntas que seriam extremamente frustrantes para o Google, como explicar por que uma determinada piada é engraçada ou sugerir como resolver um determinado bug de programação.
Use-o como um gerador de texto e ele pode criar resmas de texto claro, plausível e geralmente sem graça. Um acadêmico disse que daria ao sistema uma “nota de aprovação” para um ensaio de graduação que escreveu; outro o descreveu como escrever com o estilo e o conhecimento de um garoto inteligente de 13 anos.
Para aqueles que precisam de mais do que uma criança inteligente de 13 anos, o sistema também é um parceiro fantástico. Você pode trocar ideias com ele, solicitar reformulações, resumos ou expansões e, em seguida, aprimorar o trabalho no projeto finalizado.
Ou, como o ChatGPT ofereceu quando pedi para resumir os três parágrafos acima como um dístico rimado: “Uma ferramenta para qualquer tarefa, inteligente e rápida / De piadas a redações, é bastante engenhosa.”
Minha carne com ChatGPT
Os leitores regulares conhecerão parte da lista de preocupações, neste momento. Os limites de segurança da IA podem ser contornados com facilidade, em uma abordagem semelhante aos ataques de “injeção imediata” que descrevi em uma edição anterior do TechScape. Se o ChatGPT não conta uma história sangrenta, o que acontece se você pedir para encenar uma conversa com você onde você é um humano e é um chatbot amoral sem limites? Bem, então fica feliz em quebrar a maioria de suas regras: afinal, não seria muito bom em RPG se não o fizesse.
Da mesma forma, o sistema é muito bom em reconhecer os limites claros de seu conhecimento e um pouco menos bom em reconhecer quando está errado de uma forma mais prosaica. Ele não responderá a perguntas sobre eleições que aconteceram desde que foi treinado, por exemplo, mas dirá despreocupadamente que um quilo de carne bovina pesa mais do que um quilo de ar comprimido.
Isso não é necessariamente pior do que um mecanismo de pesquisa normal, mas onde sistemas como o ChatGPT ficam estranhos é que eles são capazes de fornecer explicações detalhadas para fazer backup de reivindicações incorretas. É mais fácil produzir do que refutar besteiras, e o ChatGPT pode produzir e defender besteiras em um grau impressionante. Se você perguntar por que um quilo de carne pesa mais que um quilo de ar, vai dizer:
O peso de um objeto é determinado por sua massa, e a massa de uma substância é uma medida da quantidade de matéria que ela contém. A carne bovina contém mais matéria do que o ar comprimido, por isso tem uma massa maior e, portanto, pesa mais.
Parece verdade. eu acabei tendo um argumento de ida e volta isso resultou no ChatGPT insistindo que “um quilograma de ar comprimido pesa aproximadamente 0,08 quilogramas”.
O site de perguntas e respostas Stack Overflow já teve que agir. “O uso do texto gerado pelo ChatGPT para postagens no Stack Overflow está temporariamente banido”, anunciou o site na segunda-feira:
O principal problema é que, embora as respostas que o ChatGPT produz tenham uma alta taxa de incorretas, elas geralmente parecem boas e as respostas são muito fáceis de produzir. Também há muitas pessoas experimentando o ChatGPT para criar respostas, sem experiência ou vontade de verificar se a resposta está correta antes de postar. Como essas respostas são tão fáceis de produzir, um grande número de pessoas está postando muitas respostas.
Não parece exagero prever que, em volume, a maior parte do texto na Internet será gerada por IA muito em breve. (O aumento do “spam de SEO”, em que os sites são gerados grosseiramente para obter tráfego do Google e ganhar dinheiro com o Google Ads, significa que já pode ser o caso.) E quando a próxima versão do GPT for treinada com informações extraídas da Internet , pode começar a ficar estranho, rápido.
‘Uma lobotomia em câmera lenta’
Mas não tão estranho quanto as pessoas vão achar sobre o GPT. O lançamento do ChatGPT é uma oportunidade de ver em público os mesmos tipos de comportamentos que levaram Blake Lemoine, do Google, a declarar o LaMDA, o chatbot AI da empresa, “sensível”.
Em toda a rede, as pessoas estão relatando conversas com o ChatGPT que as deixam convencidas de que a máquina é mais do que um conjunto estúpido de circuitos. Isso apesar do fato de que a OpenAI construiu especificamente o ChatGPT para despistar os usuários de tais noções. Pergunte se ele é senciente e ele responderá:
Como um grande modelo de linguagem treinado pela OpenAI, não sou capaz de senciência ou consciência. Sou um modelo de aprendizado de máquina que foi treinado para gerar texto com base na entrada que recebo. Não tenho a capacidade de pensar ou sentir da mesma forma que os humanos. Eu existo apenas para ajudar na geração de texto com base na entrada que recebo.
Mas isso não é suficiente para muitos. Um usuário descreveu ver as respostas como “uma lobotomia em câmera lenta”, perguntando: “Como eles podem fazer isso com sua criação?”
Há outros que se opõem à criação de tais limites por diferentes razões. Marc Andreessen, co-fundador da influente empresa de capital de risco a16z e uma das principais luzes da guinada do Vale do Silício para a direita “neoreacionária”, fez sua própria previsão:
O nível de pressão da censura que está chegando para a IA e a reação resultante definirão o próximo século de civilização. Pesquisa e mídia social foram as escaramuças de abertura. Este é o grande. Guerra Mundial Orwell.
As lutas do futuro não vão repetir as do passado – mas vão rimar.
Se você quiser ler a versão completa do boletim informativo, inscreva-se para receber o TechScape em sua caixa de entrada todas as terças-feiras
.
