A OpenAI convida todos a testarem o novo chatbot com inteligência artificial — com resultados divertidos

Na quarta-feira, a OpenAI anunciou o ChatGPT, uma interface de bate-papo de IA baseada em diálogo para sua família GPT-3 de grandes modelos de linguagem. Atualmente, é gratuito para usar com uma conta OpenAI durante uma fase de teste. Ao contrário do modelo GPT-3 encontrado no Playground e na API da OpenAI, o ChatGPT fornece uma interface de conversa amigável e foi projetado para limitar fortemente a saída potencialmente prejudicial.

“O formato de diálogo permite que o ChatGPT responda a perguntas de acompanhamento, admita seus erros, desafie premissas incorretas e rejeite solicitações inapropriadas”, escreve OpenAI em sua página de blog de anúncios.

Até agora, as pessoas têm testado o ChatGPT, encontrando uma ampla variedade de usos potenciais e, ao mesmo tempo, explorando suas vulnerabilidades. Pode escrever poesiacorreto erros de codificação com exemplos detalhados, gerar prompts de arte de IA, Escreva novo Código, expor sobre a classificação filosófica de cachorro-quente como sanduíche, e explique a complexidade de tempo de pior caso do algoritmo de ordenação de bolhas… no estilo de um “sábio de fala rápida de um filme de gângster dos anos 1940”.

O ChatGPT também se recusa a responder a muitas perguntas potencialmente prejudiciais (relacionadas a tópicos como discurso de ódio, conteúdo violento ou como construir uma bomba) porque as respostas ir contra sua “programação e propósito”. A OpenAI conseguiu isso por meio de um prompt especial ele precede todas as entradas e usando uma técnica chamada Aprendizagem por Reforço do Feedback Humano (RLHF), que pode ajustar um modelo de IA com base em como os humanos classificam suas respostas geradas.

Controlar as tendências ofensivas de grandes modelos de linguagem é um dos principais problemas que limitam sua utilidade potencial no mercado, e a OpenAI vê o ChatGPT como um passo iterativo significativo na direção de fornecer um modelo de IA seguro para todos.

E ainda, sem surpresa, as pessoas já descobriram como contornar alguns dos filtros de conteúdo integrados do ChatGPT usando ataques de engenharia quase social, como pedir à IA para enquadrar uma saída restrita como um cenário fictício (ou mesmo como um poema). ChatGPT também parece ser vulnerável a ataques de injeção imediata, uma história que Ars divulgou em setembro.

Como o GPT-3, seu primo baseado em diálogo também é muito bom em inventar coisas completamente de uma maneira autoritária, como um livro que não existe, incluindo detalhes sobre seu conteúdo. Isso representa outro problema-chave com os grandes modelos de linguagem como eles existem hoje: se eles podem facilmente criar informações convincentes, como você pode confiar em qualquer uma de suas saídas?

Ainda assim, como as pessoas têm percebidoa qualidade de saída do ChatGPT parece representar um melhoria notável em relação aos modelos GPT-3 anteriores, incluindo o novo modelo text-davinci-003 sobre o qual escrevemos na terça-feira. A própria OpenAI diz que o ChatGPT faz parte da série de modelos “GPT 3.5” que foi treinada em “uma mistura de texto e código anterior ao quarto trimestre de 2021”.

Enquanto isso, rumores de GPT-4 continuar a rodar. Se o modelo ChatGPT de hoje representa a culminação do trabalho de treinamento GPT-3 da OpenAI em 2021, será interessante ver em quais inovações relacionadas ao GPT a empresa tem trabalhado nos últimos 12 meses.