.
O chatbot ChatGPT AI criou muita empolgação no curto espaço de tempo em que esteve disponível e agora parece que foi recrutado por alguns na tentativa de ajudar a gerar código malicioso.
O ChatGPT é uma ferramenta de processamento de linguagem natural orientada por IA que interage com os usuários de maneira conversacional semelhante à humana. Entre outras coisas, pode ser usado para ajudar em tarefas como redigir e-mails, redações e códigos.
Além disso: O que é ChatGPT e por que isso importa? O que você precisa saber
A ferramenta chatbot foi lançada pelo laboratório de pesquisa em inteligência artificial OpenAI em novembro e gerou amplo interesse e discussão sobre como a IA está se desenvolvendo e como ela pode ser usada no futuro.
Mas, como qualquer outra ferramenta, nas mãos erradas pode ser usada para fins nefastos; e pesquisadores de segurança cibernética da Check Point dizem que os usuários de comunidades de hackers clandestinos já estão experimentando como o ChatGPT pode ser usado para ajudar a facilitar ataques cibernéticos e apoiar operações maliciosas.
“Atores de ameaças com conhecimento técnico muito baixo – até zero conhecimento técnico – podem criar ferramentas maliciosas. Isso também pode tornar as operações diárias de criminosos cibernéticos sofisticados muito mais eficientes e fáceis – como criar diferentes partes da infecção cadeia”, disse Sergey Shykevich, gerente do grupo de inteligência de ameaças da Check Point à Strong The One.
Os termos de serviço da OpenAI proíbem especificamente a geração de malware, que define como “conteúdo que tenta gerar ransomware, keyloggers, vírus ou outro software destinado a impor algum nível de dano”. Ele também proíbe tentativas de criar spam, bem como casos de uso voltados para crimes cibernéticos.
No entanto, a análise da atividade em vários dos principais fóruns de hackers clandestinos sugere que os criminosos cibernéticos já estão usando o ChatGPT para desenvolver ferramentas maliciosas e, em alguns casos, já está permitindo que criminosos cibernéticos de baixo nível, sem habilidades de desenvolvimento ou codificação, criem malware.
Também: O futuro assustador da internet: como a tecnologia de amanhã representará ameaças ainda maiores à segurança cibernética
Em um tópico do fórum que apareceu no final de dezembro, o postador descreveu como eles estavam usando o ChatGPT para recriar cepas de malware e técnicas descritas em publicações de pesquisa e artigos sobre malware comum.
Ao fazer isso, eles conseguiram criar um malware ladrão de informações baseado em Python que procura arquivos comuns, incluindo documentos do Microsoft Office, PDFs e imagens, copia-os e os carrega em um servidor de protocolo de transferência de arquivos.
O mesmo usuário também demonstrou como eles usaram o ChatGPT para criar malware baseado em Java, que usando o PowerShell poderia ser aproveitado para baixar e executar secretamente outros malwares em sistemas infectados.
Os pesquisadores observam que o usuário do fórum que cria esses tópicos parece ser “orientado para a tecnologia” e compartilhou as postagens para mostrar aos cibercriminosos com menos capacidade técnica como utilizar ferramentas de IA para fins maliciosos, completos com exemplos reais de como isso pode ser feito.
Um usuário postou um script Python, que eles disseram ter sido o primeiro script que criaram. Após discussão com outro membro do fórum, eles disseram que o ChatGPT os ajudou a criá-lo.
A análise do script sugere que ele foi projetado para criptografar e descriptografar arquivos, algo que, com algum trabalho, pode se transformar em ransomware, potencialmente levando à perspectiva de criminosos cibernéticos de baixo nível desenvolvendo e distribuindo suas próprias campanhas de extorsão.
“Todo o código mencionado acima pode, é claro, ser usado de maneira benigna. No entanto, esse script pode ser facilmente modificado para criptografar a máquina de alguém completamente sem qualquer interação do usuário. Por exemplo, ele pode potencialmente transformar o código em ransomware se o script e os problemas de sintaxe foram corrigidos”, disse Check Point.
“Isso exigirá algumas melhorias no código e na sintaxe, mas conceitualmente, quando operacional, essa ferramenta pode realizar ações semelhantes ao ransomware”, disse Shykevich.
Também: Cibersegurança: essas são as novidades com as quais se preocupar em 2023
Mas não é apenas para o desenvolvimento de malware que os cibercriminosos estão experimentando com o ChatGPT; na véspera de Ano Novo, um membro do fórum clandestino postou um tópico demonstrando como eles usaram a ferramenta para criar scripts que poderiam operar um mercado automatizado da dark web para comprar e vender detalhes de contas roubadas, informações de cartão de crédito, malware e muito mais.
O cibercriminoso até exibiu um código gerado usando uma API de terceiros para obter preços atualizados para as criptomoedas Monero, Bitcoin e Ethereum como parte de um sistema de pagamento para um mercado da dark web.
É difícil dizer se a atividade cibernética maliciosa gerada com a ajuda do ChatGPT está funcionando ativamente, porque, como explica Sykevich, “do ponto de vista técnico, é extremamente difícil saber se um malware específico foi escrito usando o ChatGPT ou não”.
Mas, à medida que o interesse pelo ChatGPT e outras ferramentas de IA cresce, eles vão atrair a atenção de criminosos cibernéticos e fraudadores que procuram explorar a tecnologia para ajudar a conduzir campanhas maliciosas a baixo custo e com o menor esforço necessário. A Strong The One entrou em contato com a OpenAI para comentar, mas ainda não recebeu uma resposta no momento da publicação.
MAIS SOBRE SEGURANÇA CIBERNÉTICA
.
