.
A Microsoft ofereceu alguns detalhes sobre o Prometheus, o modelo proprietário de IA criado para integrar a funcionalidade do tipo ChatGPT à pesquisa do Bing.
A Microsoft já disse que o novo Bing é “muito mais poderoso” do que o modelo GPT-3.5 AI da OpenAI por trás do ChatGPT. A experimentação pública, no entanto, mostrou rapidamente que o recurso chatbot era propenso a explosões inesperadas, o que levou a Microsoft a limitar o número de “turnos de bate-papo” a cinco por sessão para evitar que se tornasse confuso.
Também: O que é o ChatGPT? Aqui está tudo o que você precisa saber
Agora, o CVP de pesquisa e IA da Microsoft, Jordi Ribas, compartilhou alguns detalhes sobre o Prometheus – o modelo proprietário da Microsoft que combina o Bing com o modelo GPT da OpenAI para gerar resultados mais relevantes no Bing – e como foi construir o novo Bing.
A explicação de Ribas ocorre quando os usuários descobriram que a Microsoft estava testando Sydney (o codinome interno do Bing Chat) com usuários na Índia no final de 2021. Os usuários relataram em novembro de 2022 que Sydney era “rude” quase exatamente da mesma maneira que os usuários achavam. depois que a Microsoft lançou o novo Bing.
De acordo com Ribas, a OpenAI compartilhou seu modelo pós-GPT-3.5 de “mudança de jogo” com a Microsoft no verão de 2022. O presidente da Microsoft, Brad Smith, disse que foi mostrada a tecnologia OpenAI “no início do verão passado” em sua postagem no blog sobre a “IA responsável” da Microsoft.
A OpenAI abriu o ChatGPT para o mundo em novembro, enquanto a Microsoft estava em negociações para investir US$ 10 bilhões na OpenAI em dezembro, o que foi confirmado no final de janeiro. Em seguida, lançou o novo Bing em 7 de fevereiro, um dia depois que o Google lançou seu rival do ChatGPT, Bard.
“Ver esse novo modelo nos inspirou a explorar como integrar os recursos GPT no produto de pesquisa Bing, para que pudéssemos fornecer resultados de pesquisa mais precisos e completos para qualquer consulta, incluindo consultas longas, complexas e naturais”, explica Ribas.
Como Ribas aponta, grandes modelos de linguagem como GPT-3.5 são treinados em dados até um determinado ponto no tempo. No caso do ChatGPT, seus dados de treinamento pararam em algum momento de 2021. Para tornar a experiência do usuário “mais rica, relevante e precisa”, a Microsoft decidiu combiná-lo com o back-end do Bing via Prometheus.
O Prometheus combina os resultados de índice, classificação e resposta do Bing com a versão do GPT que o Bing usa para fornecer a resposta do Chat, de acordo com Ribas.
“O Prometheus aproveita o poder do Bing e do GPT para gerar um conjunto de consultas internas iterativamente por meio de um componente chamado Bing Orchestrator e visa fornecer uma resposta precisa e rica para a consulta do usuário dentro do contexto de conversa fornecido. Tudo em questão de milissegundos. Nos referimos a essa resposta gerada pelo Prometheus como a resposta do Chat”, explica Ribas.
Ribas acrescenta que os resultados de pesquisa do Bing, com base nas consultas de pesquisa e bate-papos do usuário, fornecem novas informações ao Prometheus para ajudá-lo a responder a perguntas recentes e reduzir imprecisões. O processo é chamado de “aterramento” – uma técnica que o Google usou quando desenvolveu um grande modelo de linguagem para robôs inteligentes. No caso do Bing, o modelo de linguagem GPT é fundamentado nos dados do Bing, que é como o Bing adiciona citações às respostas do Bing Chat.
“Embora o aterramento seja uma inovação notável, é uma nova tecnologia e precisamos pensar em como aplicá-la com responsabilidade, incluindo reduzir ainda mais imprecisões e prevenir conteúdo ofensivo e prejudicial. É por isso que um dos principais objetivos da nova visualização do Bing é coletar feedback do usuário para nos ajudar a melhorar ainda mais o Prometheus”, explica Ribas.
Para melhorar a precisão das respostas do chat, a Microsoft está planejando aumentar em quatro vezes os dados de aterramento que envia ao modelo.
Ribas também diz que a equipe do Bing estava dividida sobre como deveria integrar o bate-papo na interface de usuário de consulta e resposta de pesquisa familiar. Um lado queria que a resposta do bate-papo aparecesse como resultados de pesquisa, com respostas colocadas de acordo com a relevância da consulta. Outros queriam uma nova “forma de pesquisa interativa baseada em bate-papo”.
Também: Os melhores geradores de arte AI
No final, a Microsoft combinou Pesquisa e Bate-papo em uma única interface que permite aos usuários alternar entre os modos de Pesquisa e Bate-papo clicando em um elemento da página ou rolando para cima e para baixo.
.
