.
Todos os tipos de agentes de ameaças estão tentando comprometer o programa ChatGPT da OpenAI, de acordo com a empresa de segurança cibernética Check Point Software Technologies.
“Na Check Point Research, podemos ver os russos tentando romper as restrições georregionais impostas em torno do ChatGPT”, disse Pete Nicoletti, chefe de campo de segurança da informação da Check Point, em uma pequena reunião de repórteres na quinta-feira durante o evento da empresa. evento para clientes e parceiros na cidade de Nova York.
Nicoletti estava se referindo às restrições de acesso à interface de programação de aplicativos (API) do ChatGPT que bloquearia as solicitações de entrada da Rússia.
O Check Point Research é um recurso de detecção de ameaças que monitora novas formas de malware. Nicoletti não entrou em detalhes sobre os meios pelos quais a Check Point Research monitora os sistemas para detectar a tentativa de acesso.
Nicoletti disse que a investigação do código pelos hackers russos reflete apenas uma de um número crescente de partes tentando obter acesso. “Vai ser usado por bons e maus atores”, disse Nicoletti do ChatGPT.
Também: Estou usando o ChatGPT em vez do Google para me ajudar a corrigir o código mais rapidamente, mas a que custo?
A situação do ChatGPT não é exatamente como aquela que levou à ameaça EternalBlue de 2017, resultado de um vazamento de código de um laboratório. Em vez disso, disse Nicoletti, o uso do ChatGPT é “o uso de uma plataforma geralmente aberta por muitas partes diferentes”, semelhante a muitos casos de uso de arquitetura de modelo de IA na comunidade de pesquisa.
Nicoletti observou que no Reddit, uma tentativa de exploração apareceu chamada DAN, para “fazer qualquer coisa agora”, que usaria o prompt de bate-papo para manipular o ChatGPT para produzir texto que escapasse das grades de proteção colocadas pelo OpenAI para impedir que produzisse algum texto como discurso de ódio.
Nicoletti disse que não é certo se algum exploit de dia zero já apareceu para o ChatGPT. O vetor de ataque mais provável, quando um exploit finalmente aparecer, será uma forma aprimorada de ataque de phishing, disse ele.
Também: Pedi ao ChatGPT para escrever um plugin WordPress que eu precisava. Fiz isso em menos de 5 minutos
“Ele será altamente direcionado a você, porque eles já têm seus dados bancários, mas agora podem criar uma linguagem muito mais específica para torná-lo relevante para você e para cada vítima”, disse Nicoletti, comparando a abordagem a um “estreito casting” tipo de serviço de dados que torna possível a segmentação em massa.
Durante a apresentação da Check Point no mesmo dia, o fundador e CEO Gil Shwed declarou que 2023 será o “Ano da IA” e que os produtos da empresa usarão cada vez mais a IA em toda a linha.
.
