.
Krishnan diz que o criador do sistema publicou um vídeo que mostrava o chatbot operando e gerando um e-mail fraudulento. Eles também estavam tentando vender acesso ao sistema por US$ 200 por mês, ou um custo anual de US$ 1.700. Krishnan diz que em conversas com o desenvolvedor por trás do FraudGPT, eles alegaram ter algumas centenas de assinantes e pressionaram por uma venda, enquanto o criador do WormGPT parecia ter recebido pagamentos em um endereço de carteira de criptomoeda que eles compartilhavam. “Todos esses projetos estão na infância”, diz Krishnan. Ele acrescenta: “não temos muito feedback” sobre se as pessoas estão comprando ou usando os sistemas.
Embora aqueles que divulgam os chatbots afirmem que eles existem, é difícil verificar a composição e a legitimidade dos sistemas. Os golpistas cibercriminosos são conhecidos por enganar outros golpistas, com pesquisas anteriores mostrando que eles frequentemente tentam enganar uns aos outros, não fornecem o que afirmam estar vendendo e oferecem um atendimento ao cliente ruim. Sergey Shykevich, gerente de grupo de inteligência de ameaças da empresa de segurança Check Point, diz que há alguns indícios de que as pessoas estão usando o WormGTP. “Parece que existe uma ferramenta real”, diz Shykevich. O vendedor por trás da ferramenta é “relativamente confiável” e tem um histórico em fóruns de crimes cibernéticos, diz ele.
Há mais de 100 respostas a uma postagem sobre o WormGPT, diz Shykevich, embora algumas delas digam que o vendedor não respondeu muito bem às suas perguntas e outras “não ficaram muito empolgadas” com o sistema. Shykevich está menos convencido sobre a autenticidade do FraudGPT – o vendedor também afirmou ter sistemas chamados DarkBard e DarkBert. Shykevich diz que algumas das postagens do vendedor foram removidas dos fóruns. De qualquer forma, o pesquisador da Check Point diz que não há sinal de que qualquer um dos sistemas seja mais capaz do que ChatGPT, Bard ou outros LLMs comerciais.
Kelly diz acreditar que as alegações sobre os LLMs maliciosos criados até agora são “um pouco exageradas”. Mas ele acrescenta: “isso não é necessariamente diferente do que as empresas legítimas fazem no mundo real”.
Apesar das dúvidas sobre os sistemas, não é uma surpresa que os cibercriminosos queiram entrar no boom do LLM. O FBI alertou que os cibercriminosos estão procurando usar IA generativa em seu trabalho, e a agência europeia de aplicação da lei Europol emitiu um aviso semelhante. As agências de aplicação da lei dizem que os LLMs podem ajudar os cibercriminosos com fraude, representação e outras engenharias sociais mais rapidamente do que antes e também melhorar seu inglês escrito.
Sempre que qualquer novo produto, serviço ou evento chamar a atenção do público – do Barbie filme para a pandemia de Covid-19 – os golpistas correm para incluí-lo em sua artilharia de hackers. Até agora, os golpistas enganaram as pessoas para que baixassem malwares que roubam senhas por meio de anúncios falsos para ChatGPT, Bard, Midjourney e outros sistemas generativos de IA no Facebook.
Pesquisadores da empresa de segurança Sophos identificaram os operadores de abate de porcos e golpes de romance acidentalmente incluindo texto gerado em suas mensagens – “Como modelo de linguagem de ‘eu’, não tenho sentimentos ou emoções como os humanos”, dizia uma mensagem. E os hackers também roubaram tokens para fornecer acesso à API da OpenAI e acesso ao chatbot em escala.
Em seu relatório WormGPT, Kelly observa que os cibercriminosos costumam compartilhar jailbreaks que permitem que as pessoas contornem as restrições de segurança impostas pelos fabricantes de LLMs populares. Mas mesmo as versões irrestritas desses modelos podem, felizmente, não ser tão úteis para os cibercriminosos em sua forma atual.
Shykevich, o pesquisador da Check Point, diz que mesmo quando viu os cibercriminosos tentarem usar modelos públicos, eles não foram eficazes. Eles podem “criar variedades de ransomware, ladrões de informações, mas não melhor do que um desenvolvedor médio”, diz ele. No entanto, aqueles nos fóruns de crimes cibernéticos ainda estão falando sobre fazer seus próprios clones, diz Shykevich, e eles só vão melhorar no uso dos sistemas. Portanto, cuidado com o que você clica.
.
