Microsoft AI sugere banco de alimentos como ponto turístico “imperdível” no Canadá

No final da semana passada, a seção Microsoft Travel do MSN.com publicou um artigo gerado por IA sobre as atrações “imperdíveis” de Ottawa, que inclui o Ottawa Food Bank, uma verdadeira organização de caridade que alimenta famílias em dificuldades. Em seu texto de recomendação, o modelo de IA da Microsoft escreveu: “Considere entrar com o estômago vazio”.

Intitulado “Indo para Ottawa? Aqui está o que você não deve perder!”, (arquivo aqui), o artigo exalta as virtudes da cidade canadense e recomenda participar do festival Winterlude (que só acontece em fevereiro), visitar um jogo do Ottawa Senators e patinar na “maior pista de gelo naturalmente congelada do mundo” (sic).

Como o destino nº 3 da lista, a Microsoft Travel sugere uma visita ao Ottawa Food Bank, provavelmente extraído de um resumo encontrado online, mas coroado com uma frase infeliz.

A organização coleta, compra, produz e distribui alimentos para pessoas e famílias carentes na área de Ottawa desde 1984. Observamos como a fome afeta homens, mulheres e crianças diariamente e como pode ser uma barreira para a realização . As pessoas que vêm até nós têm empregos e famílias para sustentar, bem como despesas para pagar. A vida já é difícil o suficiente. Considere entrar nele com o estômago vazio.

Essa última linha é um exemplo do tipo de platitude vazia (ou resumo equivocado embaraçoso) que pode ser facilmente encontrado na escrita gerada por IA, inserida impensadamente porque o modelo de IA por trás do artigo não consegue entender o contexto do que está fazendo.

O artigo é creditado a “Microsoft Travel” e provavelmente é o produto de um modelo de linguagem grande (LLM), um tipo de modelo de IA treinado em um vasto fragmento de texto encontrado na Internet. O parceiro da Microsoft OpenAI fez ondas com LLMs chamados GPT-3 em 2020 e GPT-4 em 2023, ambos os quais podem imitar estilos de escrita humana, mas têm sido frequentemente usados ​​para tarefas inadequadas, de acordo com os críticos.

Desde o anúncio de grandes investimentos e colaborações com a OpenAI, criadora do ChatGPT, em janeiro, e o surgimento do Bing Chat no mês seguinte, a Microsoft vem experimentando a integração de conteúdo gerado por IA em suas publicações e serviços online, como adicionar histórias geradas por IA a Bing Search e incluindo resumos de revisão de aplicativos gerados por IA na Microsoft Store. “Microsoft Travel” parece ser outro uso de produção da tecnologia de IA generativa.

Observado pela primeira vez pelo autor de tecnologia Paris Marx no Bluesky, o post no Ottawa Food Bank começou a ganhar força nas mídias sociais na quinta-feira. Em resposta à postagem de Marx, a frequente crítica do LLM Emily Bender observou: “Não consigo encontrar nada nessa página que a marque abertamente como gerada por IA. Parece uma grande falha em dois de seus princípios de ‘IA responsável’.”

Bender também apontou para as políticas da Microsoft; um é “Transparência” e diz: “Como as pessoas podem entender mal, usar mal ou estimar incorretamente os recursos do sistema?” e o outro é “Responsabilidade”, que afirma: “Como podemos criar supervisão para que os humanos possam ser responsáveis ​​e no controle?”

A julgar pelo conteúdo do artigo de Ottawa, é mais do que provável que um ser humano não tenha sido responsável por escrever o artigo e que ninguém revisou totalmente seu conteúdo antes da publicação, o que significa que a Microsoft está publicando conteúdo gerado por IA na Internet com pouco ou nada. -sem supervisão.

A Microsoft não estava imediatamente disponível para comentários até o momento desta publicação.