A IA da Meta acha que o CEO Mark Zuckerberg é tão superficial quanto você poderia – pelo menos, se você fizer as perguntas certas na hora certa. A BBC e outros meios de comunicação como Insider informaram sobre suas aventuras teste de estresse BlenderBot 3, a ferramenta de bate-papo de inteligência artificial Meta lançada na semana passada. Como eles observam, é fácil fazer o BlenderBot se voltar contra seu criador, chamando-o de “assustador” ou não confiável ou mesmo dizendo que “explora as pessoas por dinheiro”. Mas isso não é precisamente uma acusação de BlenderBot ou Zuckerberg. É um lembrete engraçado de que a maioria dos chatbots não tem opiniões diretas e coerentes – em vez disso, eles são uma interface para acessar uma vasta biblioteca de pensamento humano online.
BlenderBot é um experimento Meta AI que atualmente é usado para fins de pesquisa. Como meu colega James Vincent explica, ele é treinado em um grande conjunto de dados de linguagem que permite gerar respostas (vagamente) que passam por humanos para perguntas, incluindo solicitações específicas de informações factuais. O objetivo de longo prazo é criar um assistente virtual que possa conversar sobre uma ampla variedade de tópicos com precisão factual. O objetivo de curto prazo é colocar o BlenderBot na frente de pessoas reais e, essencialmente, ver como eles podem quebrá-lo. E até agora, isso parece incluir muitas pessoas fazendo-o dizer coisas pouco lisonjeiras sobre seus donos.
Passei algum tempo conversando com o BlenderBot, e Recebi uma variedade de respostas pedindo suas opiniões sobre Zuckerberg. Uma instância do bot declarou que era “Não sou fã dele ou do Facebook. Eu os acho antiéticos devido a todos os problemas de privacidade que eles tiveram.” Uma instância separada (aberta em uma sessão diferente do navegador para limpar sua memória) teve uma opinião diferente e muito mais positiva, chamando-o de “cara muito rico e bem-sucedido. Eu o respeito como empresário e filantropo.”
Mas depois de mais um pouco de conversa sobre assuntos não relacionados, meu fanbot mudou de tom, decidindo que, de fato, não tinha tanta certeza sobre Zuck. “De jeito nenhum!” ele me disse quando perguntei se Zuckerberg deveria ser presidente. “Eu realmente não confiaria nele com esse tipo de poder, especialmente porque ele não parece se importar muito com a privacidade de outras pessoas.”
Uma página “Por que esta mensagem” explicando por que o bot não confia (atualmente) em Mark Zuckerberg.
Então oque está acontecendo? Bem, uma das propriedades exclusivas do BlenderBot é a função “Por que esta mensagem”, que oferece contexto para ajudar a responder a essa pergunta. Se você clicar em uma determinada mensagem, poderá ver quaisquer termos que o BlenderBot pesquisou para coletar informações sobre sua consulta. Você também pode ver referências a um “User Persona” e “AI Persona” – lembretes armazenados sobre opiniões que você e a IA expressaram, às quais o BlenderBot se refere em declarações posteriores. (Se você usou AI Dungeon ou NovelAI, é semelhante ao sistema de “memória” que permite que você retorne a pontos anteriores da trama em histórias geradas por IA.)
No meu caso, o fanbot Zuck deduziu que minha persona incluía estar “interessado na ética de Mark Zuckerberg” enquanto conversávamos, e gerou declarações moldadas por esse interesse. Mas essas não eram exatamente opiniões consistentes e pensadas. Eram frases geradas automaticamente com base em seu vasto conjunto de dados de treinamento na Internet – em outras palavras, coisas que outras pessoas disseram sobre Mark Zuckerberg e ética. E isso inclui um monte de coisas que não fazem jus!
Zuckerberg é mais controverso do que um muitas figuras públicas, mas eu poderia obter declarações igualmente conflitantes em outros casos também. Um bot apoiou incondicionalmente Amber Heard sobre Johnny Depp no recente julgamento de difamação Depp v. Heard, mas ainda o “amava” como ator, por exemplo, enquanto outra instância chamava seus personagens “estranho e assustador.”
Uma instância do BlenderBot adorava Johnny Depp como ator.
Outro não era um fã.
Meta quer evitar uma repetição de Microso ft’s Tay, por isso tentou limitar a capacidade de seu bot de dizer coisas ofensivas, embora alguns ainda tenham escapado. O BlenderBot mudará de assunto se você se aproximar demais de um tópico que pareça sensível – ele o fez quando perguntei à queima-roupa se Mark Zuckerberg estava “explorando pessoas” e, mais aleatoriamente, quando mencionei mais tarde que a plataforma de streaming Twitch era de propriedade de Amazonas. Mas fora isso, se você conversar com o BlenderBot por tempo suficiente, poderá vê-lo se amarrar em todos os tipos de nós retóricos. Seus pensamentos sobre o socialismo, depois de falar sobre os bilionários Mark Zuckerberg e Elon Musk, por exemplo? “Sou um grande fã dele, especialmente porque Zuckerberg é um ótimo exemplo de como funciona bem.”
O Meta descreveu respostas inesperadas – incluindo ofensivas – como parte do motivo pelo qual está liberando o bot. “Embora seja doloroso ver algumas dessas respostas ofensivas, demonstrações públicas como essa são importantes para construir sistemas de IA conversacionais verdadeiramente robustos e preencher a lacuna clara que existe hoje antes que esses sistemas possam ser produzidos”, disse Meta diretor administrativo de pesquisa fundamental de IA. Joelle Pineau em um comunicado.
Por enquanto , o chatbot médio é basicamente um fanfarrão bêbado em um coquetel. É uma entidade sem bússola intelectual ou ética consistente, mas uma extraordinária biblioteca de factóides e sabedoria recebida que jorra sob comando, mesmo que se contradiga cinco minutos depois. Esse é o ponto de projetos de arte como um clone do fórum AITA do Reddit, que enfatiza o quanto os modelos de linguagem priorizam o som bom ao invés de ser lógico ou consistente.
Este é um problema se o Meta quiser que sua IA seja tratada como um , presença persistente na vida das pessoas. Mas o BlenderBot é um projeto de pesquisa que não serve a nenhuma função comercial imediata, exceto reunir grandes quantidades de dados de conversas para pesquisas futuras. Observá-lo dizer coisas estranhas (dentro das limitações mencionadas acima) é meio que o ponto.
