.
Os spammers usaram o OpenAI para gerar mensagens exclusivas para cada destinatário, permitindo que eles ignorassem filtros de detecção de spam e explodam mensagens indesejadas para mais de 80.000 sites em quatro meses, disseram pesquisadores na quarta-feira.
A descoberta, documentada em um publicar Publicado pela Sentinellabs da empresa de segurança Sentinelone, ressalta a espada de dois gumes usada por grandes modelos de idiomas. A mesma coisa que os torna úteis para tarefas benignas – a amplitude dos dados disponíveis e sua capacidade de usá -los para gerar conteúdo em escala – pode ser frequentemente usada em atividades maliciosas com a mesma facilidade. O Openai revogou a conta dos spammers em fevereiro.
“Você é um assistente útil”
A explosão de spam é o trabalho de Akirabot- uma estrutura que automatiza o envio de mensagens em grandes quantidades para promover serviços de otimização de pesquisa obscuros para sites pequenos e médios. A Akirabot usou scripts baseados em Python para girar os nomes de domínio anunciados nas mensagens. Ele também usou a API de bate-papo do OpenAI vinculada ao modelo GPT-4O-Mini para gerar mensagens exclusivas personalizadas para cada site que ele enviou, uma técnica que provavelmente o ajudou a ignorar os filtros que procuram e bloqueiam conteúdo idêntico enviado a um grande número de sites. As mensagens são entregues através de formulários de contato e widgets de bate -papo ao vivo incorporados nos sites direcionados.
“O uso do Akirabot do conteúdo da mensagem de spam gerado por LLM demonstra os desafios emergentes que a IA apresenta para defender sites contra ataques de spam”, escreveram os pesquisadores do Sentinellabs, Alex Delamotte e Jim Walter. “Os indicadores mais fáceis de bloquear são o conjunto rotativo de domínios usados para vender as ofertas de SEO da Akira e ServiceWrap, pois não há mais uma abordagem consistente no conteúdo da mensagem de spam, como havia com campanhas anteriores que vendem os serviços dessas empresas”.
.
