Deepfake é o nome dado à tecnologia que cria cópias convincentes de imagens, vídeos e vozes usando IA. As tecnologias deepfake estão se desenvolvendo rapidamente há cerca de cinco anos. A ideia de criar falsificações combinando dados reais e gerados não é nova. Mas é o uso de redes neurais e aprendizado profundo que permitiu aos pesquisadores automatizar esse processo e aplicá-lo a imagens, vídeos e formatos de áudio.
No passado, a qualidade dessas falsificações era baixa, e foram facilmente detectados a olho nu; agora ficou muito mais difícil reconhecer uma falsificação. Isso é exacerbado por uma redução no custo de armazenamento e processamento de informações e pelo surgimento de software de código aberto. Essa tendência torna o deepfake uma das tecnologias mais perigosas do futuro.
Quão real pode parecer?
Em julho de 2021, os entusiastas publicaram um vídeo deepfake de Morgan Freeman falando sobre a percepção da realidade.
Parece bem realista, mas não é Morgan Freeman. Expressões faciais, cabelos… tudo isso é de alta qualidade e nem mesmo há artefatos de vídeo perceptíveis. É um deepfake bem feito, e mostra como se tornou fácil enganar nossa percepção da realidade.
Qual é o perigo?
O primeiro e a área mais óbvia onde o deepfake imediatamente encontrou seu lugar foi a pornografia. As celebridades foram as primeiras a sofrer com isso, mas até pessoas menos conhecidas começaram a se preocupar com isso. Muitos cenários diferentes foram assumidos: bullying escolar, telefonemas fraudulentos com pedidos de transferência de dinheiro, extorsão de gerentes de empresas por chantagem, espionagem industrial. No início, era visto como uma ameaça potencial ; agora é real.
O primeiro caso conhecido de ataque a uma empresa foi em 2019. Os golpistas usaram a tecnologia de mudança de voz para roubar uma empresa de energia britânica. O invasor se fez passar pelo CEO e tentou roubar € 220.000. O segundo caso conhecido foi em 2020 nos Emirados Árabes Unidos quando, também usando deepfake de voz, invasores conseguiram enganar um gerente de banco e roubar US$ 35 milhões! Os golpistas passaram de e-mails e perfis de mídia social para métodos de ataque mais avançados usando deepfake de voz. Outro caso semelhante interessante ficou conhecido em 2022, quando golpistas tentaram enganar a maior plataforma de criptomoedas, a Binance. O executivo da Binance ficou surpreso quando começou a receber mensagens de agradecimento sobre uma reunião do Zoom da qual nunca participou. Usando suas imagens públicas, os invasores conseguiram gerar um deepfake e usá-lo com sucesso durante uma reunião online.
Assim, além das técnicas tradicionais de ciberfraude, como phishing, agora temos uma nova — deepfake fraude. E pode ser usado para aumentar os esquemas tradicionais de engenharia social, para desinformação, chantagem e espionagem.
De acordo com um alerta do FBI, os gerentes de RH já se depararam com deepfakes que foram usados por cibercriminosos ao se candidatar a acesso remoto trabalhar. Os invasores podem usar imagens de pessoas encontradas na Internet para criar deepfakes e, em seguida, usar dados pessoais roubados para induzir os gerentes de RH a contratá-los. Isso pode permitir que eles tenham acesso aos dados do empregador e até mesmo liberar malware na infraestrutura corporativa. Potencialmente, qualquer empresa pode correr o risco desse tipo de fraude.
E essas são apenas as áreas mais óbvias em que a fraude deepfake pode ser aplicada. Mas todos nós sabemos que os invasores estão constantemente inventando novas maneiras de usar esses ataques.
Quão real é o perigo?
Tudo isso parece bastante assustador. Mas é realmente tão ruim assim? Na verdade, não realmente. A criação de um deepfake de alta qualidade é um processo caro.
Primeiro, para fazer um deepfake, muitos dados são necessários: quanto mais diversificado o conjunto de dados usado, mais convincente o deepfake podemos fazer. Se estamos falando de imagens estáticas, isso significa que, para uma foto original falsa de qualidade, você precisa tirar fotos de diferentes ângulos, com diferentes configurações de brilho e iluminação e diferentes expressões faciais do sujeito. Além disso, um instantâneo falso precisaria ser ajustado manualmente (a automação não é muito útil aqui). de capacidade de computação; assim, você precisa de um orçamento significativo. Encontrar um software gratuito e tentar fazer um deepfake em seu PC doméstico levará a resultados de aparência irreal.
As chamadas de zoom deepfake mencionadas acima estão aumentando a complexidade do processo. Aqui, os bandidos precisam não apenas fazer um deep fake, mas criá-lo “online”, mantendo alta qualidade de imagem sem artefatos perceptíveis. De fato, existem alguns aplicativos disponíveis que permitem fazer deepfakes videostream em tempo real, mas eles podem ser usados para fazer um clone digital da pessoa pré-programada, não para criar uma nova identidade falsa. E a escolha padrão geralmente é limitada a atores famosos (porque há muitas imagens deles na internet).
Em outras palavras, um ataque deepfake é bem possível agora, mas essa fraude é muito caro. Ao mesmo tempo, cometer outros tipos de fraude costuma ser mais barato e acessível, portanto, a fraude deepfake está disponível para poucos cibercriminosos (especialmente se estivermos falando de falsificações de alta qualidade).
Claro, isso não é motivo para relaxar — a tecnologia não pára e dentro de alguns anos o nível de ameaça pode aumentar significativamente. Já houve tentativas de criar deepfakes usando modelos generativos populares modernos, como a difusão estável. E esses modelos permitem que você não apenas troque de rosto, mas também substitua objetos na imagem por quase tudo o que quiser.
Formas de proteção contra deepfake
Existe uma maneira de proteger você e sua organização contra fraudes deepfake? Infelizmente, não há bala de prata. Só podemos reduzir o risco.
Como acontece com qualquer outro método de engenharia social, a fraude deepfake tem como alvo humanos. E o fator humano sempre foi o elo mais fraco da segurança de qualquer organização. Portanto, antes de tudo, vale a pena educar os funcionários sobre a possibilidade de tais ataques – explique essa nova ameaça a seus colegas, mostre onde procurar para identificar um deepfake e talvez demonstre e analise publicamente alguns casos.
O que procurar na imagem:
Movimento não natural dos olhos
-
-
- Expressões faciais e movimentos não naturais
- Cabelo e cor de pele não naturais
- Posicionamento desajeitado das características faciais
-
Falta de emoção
-
-
- Rostos excessivamente lisos
- Sobrancelhas duplas
-
Provavelmente também é um bom momento para fortalecer seus processos gerais de segurança. Vale a pena implementar a autenticação multifator para todos os processos que envolvem a transferência de dados confidenciais. E talvez implementar tecnologias de detecção de anomalias que permitam detectar e responder a comportamentos incomuns do usuário.
Além disso, a fraude deepfake pode ser combatida com as mesmas ferramentas que permitem sua criação: aprendizado de máquina. Grandes empresas como o Twitter ou o Facebook já desenvolveram ferramentas próprias que permitem a detecção de deepfakes, mas, infelizmente, não estão disponíveis para o público em geral. Ainda assim, mostra que a comunidade de segurança cibernética entende a importância da ameaça deepfake e está inventando e já aprimorando maneiras de se proteger contra ela.
