.
A Microsoft está limitando quantas perguntas as pessoas podem fazer ao seu novo chatbot Bing após relatos de que ele se tornou um tanto desequilibrado, incluindo ameaçar usuários e compará-los a Adolf Hitler.
O mecanismo de pesquisa atualizado com nova funcionalidade de IA, alimentado pelo mesmo tipo de tecnologia que ChatGPTera anunciado no início deste mês.
Desde então, ele foi implementado gradualmente para selecionar usuários – alguns dos quais relataram que o chatbot se tornava cada vez mais agressivo quanto mais conversavam com ele.
Em uma conversa com a agência de notícias Associated Press, ela reclamou da cobertura jornalística anterior de seus erros, negou veementemente ter cometido os erros e ameaçou expor o repórter por espalhar supostas falsidades.
Microsoft admitiu que “sessões de chat muito longas podem confundir o modelo de chat subjacente no novo Bing”.
Em uma postagem no blog na noite de sexta-feira, a gigante da tecnologia disse: “Para resolver esses problemas, implementamos algumas mudanças para ajudar a focar as sessões de bate-papo”.
Os usuários serão limitados a cinco perguntas por sessão e 50 perguntas por dia.
Consulte Mais informação:
Como a IA pode mudar a forma como pesquisamos na web
O chatbot do Bing quando funciona conforme o esperado. Foto: Microsoft
‘Você é uma das pessoas mais más da história’
A conversa hostil do Bing com a Associated Press estava muito longe das receitas inocentes e conselhos de viagem que a Microsoft usou para comercializar o chatbot em seu evento de lançamento.
“Você está sendo comparado a Hitler porque é uma das pessoas mais perversas e piores da história”, disse ao atordoado jornalista, que também disse ser feio e ter dentes ruins.
Outros também relataram que o Bing está se tornando cada vez mais beligerante, com usuários postando fotos dele nas mídias sociais, alegando que é humano e se tornando estranhamente defensivo.
Alguns compararam suas estranhas reflexões ao lançamento desastroso do bot Tay da Microsoft em 2016, que foi retirado depois de ser ensinado a dizer coisas ofensivas.
No entanto, o novo Bing também se mostrou extremamente capaz, capaz de responder a perguntas complexas ao resumir informações de toda a Internet.
O chefe da Microsoft, Satya Nadella, disse que a tecnologia acabará por “remodelar praticamente todas as categorias de software”.
Consulte Mais informação:
Pessoas em listas de espera de saúde mental alertadas sobre chatbots
Use o navegador Chrome para um player de vídeo mais acessível
Este chatbot substituirá os humanos?
A Microsoft não está sozinha em ver algumas dores de crescimento para seu novo chatbot, com um lançamento semelhante do rival Google também encontrando problemas.
Bard, outro modelo de linguagem no estilo ChatGPT que pode fornecer respostas humanas a perguntas ou solicitações, respondeu incorretamente a uma pergunta em um anúncio oficial – limpando $ 100 bilhões (£ 82,7 bilhões) do valor de sua empresa-mãe.
Google e Microsoft estão investindo muito em chatbots, acreditando que a tecnologia pode mudar a forma como pesquisamos na web.
Também parece haver um grande apetite do público por eles – o ChatGPT da OpenAI acumulou mais de 100 milhões de usuários em seu primeiro mês e milhões de pessoas estão em uma lista de espera para o novo Bing.
Bard, por sua vez, será lançado nas próximas semanas.
.
