.
A inteligência artificial generativa está transformando a segurança cibernética, auxiliando tanto atacantes quanto defensores. Os cibercriminosos estão aproveitando a IA para lançar ataques sofisticados e inovadores em grande escala. E os defensores estão usando a mesma tecnologia para proteger infraestrutura crítica, organizações governamentais e redes corporativas, disse Christopher Ahlberg, CEO da plataforma de inteligência de ameaças Recorded Future.
A IA generativa ajudou os malfeitores a inovar e desenvolver novas estratégias de ataque, permitindo que ficassem um passo à frente das defesas de segurança cibernética. A IA ajuda os cibercriminosos a automatizar ataques, verificar superfícies de ataque e gerar conteúdo que ressoe com várias regiões geográficas e dados demográficos, permitindo que eles atinjam uma gama mais ampla de vítimas em potencial em diferentes países. Os cibercriminosos adotaram a tecnologia para criar e-mails de phishing convincentes. O texto gerado por IA ajuda os invasores a produzir e-mails e mensagens de texto altamente personalizados com maior probabilidade de enganar os alvos.
“Eu acho que você não precisa pensar muito criativamente para perceber isso, cara, isso pode realmente ajudar [cybercriminals] ser autores, o que é um problema”, disse Ahlberg.
Também: A IA poderia automatizar 25% de todos os trabalhos. Veja quais estão mais (e menos) em risco
Os defensores estão usando IA para evitar ataques. As organizações estão usando a tecnologia para evitar vazamentos e encontrar vulnerabilidades de rede de forma proativa. Ele também automatiza tarefas dinamicamente, como configurar alertas para palavras-chave específicas e detectar informações confidenciais online. Os caçadores de ameaças estão usando IA para identificar padrões incomuns e resumir grandes quantidades de dados, conectando os pontos em várias fontes de informações e padrões ocultos.
O trabalho ainda requer especialistas humanos, mas Ahlberg diz que a tecnologia de IA generativa que estamos vendo em projetos como o ChatGPT pode ajudar.
“Queremos agilizar o ciclo de análise [to] ajude-nos a analisar na velocidade do pensamento”, disse ele. “Isso é uma coisa muito difícil de fazer e acho que estamos vendo um avanço aqui, o que é muito emocionante.”
Ahlberg também discutiu as ameaças potenciais que as máquinas altamente inteligentes podem trazer. À medida que o mundo se torna cada vez mais digital e interconectado, a capacidade de distorcer a realidade e moldar as percepções pode ser explorada por agentes mal-intencionados. Essas ameaças não se limitam aos Estados-nação, tornando o cenário ainda mais complexo e assimétrico.
Também: ChatGPT é mais uma ‘inteligência alienígena’ do que um cérebro humano, diz futurista
A IA tem o potencial de ajudar a proteger contra essas ameaças emergentes, mas também apresenta seu próprio conjunto de riscos. Por exemplo, máquinas com alta capacidade de processamento podem hackear sistemas de forma mais rápida e eficaz do que os humanos. Para combater essas ameaças, precisamos garantir que a IA seja usada defensivamente e com uma compreensão clara de quem está no controle.
À medida que a IA se torna mais integrada à sociedade, é importante que legisladores, juízes e outros tomadores de decisão entendam a tecnologia e suas implicações. Construir alianças fortes entre especialistas técnicos e formuladores de políticas será crucial para navegar no futuro da IA na caça de ameaças e além.
As oportunidades, desafios e considerações éticas da IA na segurança cibernética são complexos e estão evoluindo. Garantir modelos de IA imparciais e manter o envolvimento humano na tomada de decisões ajudará a gerenciar os desafios éticos. Vigilância, colaboração e uma compreensão clara da tecnologia serão cruciais para lidar com as ameaças potenciais de longo prazo de máquinas altamente inteligentes.
Também: Como funciona o ChatGPT
Ahlberg também levantou preocupações sobre China, Rússia e adversários econômicos implantando máquinas autônomas. Esses países provavelmente não desacelerarão o desenvolvimento da IA nem compartilharão considerações éticas. Embora ter a capacidade de “desligar” essas máquinas seja uma salvaguarda inteligente, ele sugere que a integração da tecnologia na sociedade e na economia global provavelmente tornará difícil a separação. Ahlberg enfatiza a necessidade de projetar produtos e máquinas com clareza sobre quem os controla.
“A grande coisa que a internet fez em tudo isso é que a internet meio que se tornou o lugar para onde todas as informações do mundo migraram”, disse Ahlberg. “Esses grandes modelos de linguagem estão fazendo coisas muito mágicas… para acelerar esse ciclo de pensamento.”
Ele acrescentou: “Nos próximos 25 anos, o mundo se tornará um reflexo da internet”.
.
