.
Recurso patrocinado Já há algum tempo, alertas sobre a utilização de IA por cibercriminosos têm sido divulgados tanto na mídia especializada quanto na convencional – com o confronto entre atacantes armados por IA e defensores protegidos por IA vistos em termos vívidos de gladiadores.
Muitas vezes esquecido em toda essa conjectura é o fato de que a IA defensiva já provou sua eficácia contra tipos convencionais de ataques cibernéticos, como malware e ransomware, especialmente em setores-alvo como energia, saúde e varejo. E, ao fazer isso, os sistemas de segurança de IA estão sendo treinados por experiências que se mostrarão de alto valor à medida que os agentes de ameaças aumentam o quociente de inteligência de seus ataques.
Mas, enquanto sua taxa de sucesso aumenta, a IA na segurança cibernética deve fazer a transição para além das percepções desatualizadas que podem impedi-la de obter a adoção principal crítica para as organizações se protegerem contra ofensivas armadas de IA quando elas começarem em grande escala.
Essas próprias empresas também precisam se ajustar, pois a IA ocupa um papel centralizado e totalmente integrado nas operações de TI em toda a empresa. A tendência de adoção parece garantida. De acordo com Forrester o valor do mercado de software de IA será de US$ 64 bilhões em 2025, sendo a segurança cibernética a categoria de software de IA de crescimento mais rápido.
No entanto, a crescente importância da IA trará novos desafios, adverte Forrester. A IA não ocupa mais domínios independentes e especializados, por exemplo. E isso significa que as empresas orientadas por IA agora precisam gerenciar uma tecnologia complexa em toda a extensão de sua infraestrutura de TI, práticas e processos, modelos de negócios e ativos de habilidades humanas.
Não se, mas quando…
Por enquanto, sinais tangíveis de que as atuais ameaças cibernéticas estão implantando IA em grande escala são relativamente esporádicos em comparação com as tendências de ataque sem IA. Isso pode indicar que os malfeitores digitais não têm pressa em trazer a IA para seus planos de ataque. Uma razão para isso pode ser que eles estão se saindo bem com métodos de ataque não baseados em IA. Outro poderia estar usando IA (ainda) que não promete aos hackers um retorno de investimento alto o suficiente para seus trabalhos.
No entanto, há evidências de que esta situação está mudando. Os agentes de ameaças aproveitarão as ferramentas já desenvolvidas que se tornam disponíveis, de acordo com especialistas da Darktrace – o ChatGPT da OpenAI é o exemplo mais divulgado recentemente. Darktrace encontrado que a complexidade linguística média dos e-mails de phishing aumentou 17% desde o lançamento do ChatGPT em novembro de 2022.
O ChatGPT colocou a IA ainda mais na consciência pública, revelou uma pesquisa mais recente da Darktrace publicada em seu ‘IA generativa: impacto em ataques cibernéticos por e-mail‘ papel branco. Ele revelou que 35% dos entrevistados no Reino Unido disseram que experimentaram o ChatGPT (ou outros chatbots) por conta própria.
Expectativas terríveis sobre as implicações para a defesa cibernética surgiram paralelamente, com oitenta e dois por cento dos funcionários globais expressando preocupação de que os hackers possam usar IA para criar e-mails fraudulentos indistinguíveis da comunicação genuína.
Os pesquisadores da Darktrace também observaram um aumento de 135% nos ataques de e-mail de ‘nova engenharia social’ em milhares de seus clientes ativos entre janeiro e fevereiro de 2023, um período que correspondeu vagamente à ampla adoção do ChatGPT lançado dois meses antes.
Esses novos ataques de engenharia social usam técnicas linguísticas sofisticadas, incluindo volume de texto aumentado, pontuação e comprimento da frase, sem links ou anexos ruins. A tendência sugere que a IA fornece um meio para os agentes de ameaças criarem ataques sofisticados e direcionados de forma rápida e ampla.
Outro aprendizado importante para as equipes de segurança de TI é que os ataques armados com IA não necessariamente substituirão outros tipos de ameaças, diz Germaine Tan, vice-presidente de gerenciamento de riscos cibernéticos da Darktrace.
“Ameaças continuarão vindo de todas as direções, de qualquer forma”, adverte Tan, “portanto, é imperativo que as equipes de segurança tenham acesso a ferramentas de suporte de nível de IA. enfrentar. Adicionado ao qual as propriedades digitais de suas organizações continuam a se expandir: trabalho remoto, dispositivos móveis, conferência na web, nuvem híbrida – você escolhe. É para ajudá-los a monitorar a atividade nessas propriedades de novo modelo, que a Darktrace AI oferece uma vantagem única para os recursos estendidos de segurança cibernética.”
Integrando a IA no regime de segurança
Para que as defesas cibernéticas apoiadas por IA ofereçam eficácia ideal, é necessária uma integração estreita entre as equipes de tecnologia e segurança, aconselha Tan, sem divisão conceitual entre suas respectivas atividades.
“Alcançar isso vai além de investir confiança generalizada na funcionalidade de IA”, afirma ele. “Significa garantir que as ferramentas de IA sejam incorporadas aos procedimentos de trabalho padrão e não sejam vistas como algo separado ou diferente dos ativos de segurança padrão que os profissionais cibernéticos se acostumaram a usar. Para conseguir isso, nossas percepções do que é IA, o que é capaz de entregar, e como o entrega, tem que ser esclarecido e atualizado em toda a organização.”
Para começar, devemos sempre definir e redefinir o que significa ‘IA’, Tan diz: “Embora existam definições padrão de IA, é claro, elas nem sempre são facilmente testáveis no mercado em relação a uma solução de segurança que é promovida e vendida como sendo ‘alimentado por IA’ ou ‘habilitado por IA’.”
Por exemplo, a automação na segurança cibernética às vezes é comunicada como sendo ‘IA’ e fica difícil para as equipes de segurança diferenciar: “Na automação, o que você está procurando é muito bem definido. Você já sabe o que está procurando – você está apenas acelerando o processo com regras e assinaturas. A verdadeira IA, por outro lado, é dinâmica. Você não precisa mais definir atividades que merecem sua atenção – a IA destaca e prioriza isso para você.”
Isso não sugere que a IA substitua ou supere a automação, Tan acrescenta: “Nem todo processo precisa de IA. Alguns processos simplesmente precisam de automação…”.
Ao lidar com ameaças conhecidas, como malware malicioso conhecido e sites de hospedagem, a automação é ótima para acompanhar. No entanto, quando se trata desses ‘desconhecidos’, como ataques de dia zero, ameaças internas e de IoT e comprometimento da cadeia de suprimentos, a IA está mais bem equipada para detectar e responder a esses perigos assim que eles surgem.
Tan acrescenta: “A distinção que fazemos é que a automação ajuda você a tomar rapidamente uma decisão que você já sabe que tomará – enquanto a verdadeira IA ajuda você a tomar uma decisão melhor”.
Suplementos, não suplantam
Em seguida, a noção errônea de que a implementação da IA na segurança cibernética é uma substituição total dos sistemas existentes deve ser desmascarada. Em vez disso, o imperativo deve ser que a IA se integre com soluções de segurança não IA de maneira perfeita e eficaz e agregue valor às suas operações e funcionalidades.
Em um contexto semelhante, devemos contrariar a noção de que a IA visa reduzir o número de funcionários e substituir a exigência de conhecimento humano em segurança cibernética. Muito pelo contrário, como Tan aponta: “Na segurança cibernética, a IA absolutamente precisa de entrada e interação humana e funciona de maneira ideal ao trabalhar ao lado de profissionais cibernéticos de carne e osso”.
Tan acrescenta: “Além disso, descobrimos que, ao criar uma oportunidade de trabalhar diretamente com tecnologia inovadora de alto nível, como Darktrace AI, nossos clientes mantêm sua experiência cibernética e o pessoal da equipe de segurança tem mais chances de permanecer no trabalho. Dessa forma, nossos produtos ajudam a retenção de talentos valiosos de uma organização.” (Gartner tem destacado como, com muitas oportunidades de mercado para profissionais de segurança cibernética, a rotatividade de talentos comprometerá a eficácia dos negócios.)
A Darktrace criou o Cyber AI Loop para designar sua abordagem à segurança cibernética. As quatro famílias de produtos contidas – Darktrace PREVENT, DETECT, RESPOND e HEAL – abrangem um aspecto fundamental da postura de segurança cibernética de uma organização. Cada um se retroalimenta em um ciclo virtuoso contínuo, reforçando as capacidades um do outro – e esse ciclo aumenta as entradas humanas em cada estágio do ciclo de vida de um incidente.
O quarto lugar na agenda de mudança de IA da Darktrace é a desmistificação – deixando de ver a IA como uma tecnologia misteriosa que acontece dentro de uma caixa preta invisível que é reservada aos adeptos da IA. É um equívoco que está muito distante da aplicação da IA em 2023, diz Tan.
“Temos que começar a ver a IA em termos de uma tecnologia madura, de trabalho diário e totalmente prática, em vez de jargões e jargões ultrapassados”, insiste. “Sim, é complexo – então a IA precisa produzir resultados claros e fáceis de entender para ser útil. Durante um incidente cibernético, as equipes humanas precisam compreender rapidamente o que aconteceu. Quando aconteceu? Quais dispositivos foram afetados? Com o que devo lidar primeiro? O que isso significa para o nosso negócio?”
Para esse fim, a Darktrace aplica um nível adicional de IA além de suas descobertas iniciais que investiga autonomamente em segundo plano, reduzindo uma massa de eventos de segurança individuais a apenas uma lista restrita de incidentes cibernéticos gerais que justificam a revisão humana: “Isso gera uma linguagem natural relatórios de incidentes com todas as informações relevantes para que todos os membros de uma equipe de segurança cibernética façam julgamentos melhores rapidamente”, diz Tan.
Tornando o explicável alcançável
O objetivo final é garantir que a IA da Darktrace seja acessível e avaliável – que os clientes entendam o que está fazendo, que seja confiável e que suas funções sejam explicáveis – em outras palavras, quais são os “processos de pensamento” da IA.
Tan acrescenta: “A IA explicável ajuda os clientes a sentir confiança em relação à IA. Mas também os capacita a levar essa IA para o negócio e dizer: ‘isso é o que descobrimos’ e ‘isso é o que a IA disse’, descobrindo insights sobre sua própria propriedade digital. Queremos trazer o cliente, ser aberto, ter divulgação total, isso é importante para obter aceitação do cliente, comprar. E com melhor compreensão, eles usam melhor a IA.”
Com mais e mais organizações de usuários inclinando-se para a IA, a questão é quando essa tecnologia outrora esotérica se tornará popular. Tan reluta em prever: “Na verdade, não tenho certeza de quando uma tecnologia se qualifica como mainstream. Mas tenho certeza de que a IA será útil para o mainstream de muitas maneiras diferentes – isso está se tornando mainstream? Talvez. onipresente? Altamente.”
Patrocinado pela Darktrace.
.
