.
Yahya Sinwar, o antigo líder da organização militante Hamas, foi morto pelos militares israelitas na cidade de Rafah, no sul de Gaza, em Outubro de 2024. Dado o papel que Sinwar desempenhou no planeamento e execução do ataque terrorista de 7 de Outubro, bem como o seu papel no desenvolvimento da ala militar do Hamas, o seu assassinato foi visto como uma vitória possivelmente revolucionária para o primeiro-ministro israelita, Benjamin Netanyahu.
Mas, para todos os lados do conflito, o debate rapidamente se voltou para as consequências da sua morte. Mudaria as possibilidades políticas para uma resolução da guerra em Gaza? E isso o transformaria num mártir poderosamente simbólico, inspirando novas gerações de militantes?
Minha pesquisa e ensino na Universidade de Lancaster desenvolvem o que poderia ser descrito como “futurismo de guerra”. Explora os possíveis futuros que temos pela frente em tempos que podem ser moldados de forma dramática e imprevisível pela IA, pelas emergências climáticas, pelas guerras espaciais e pela transformação tecnológica do corpo “ciborgue”.
Em 2023, escrevi um livro intitulado Theorising Future Conflict: War Out to 2049. Incluía um cenário fictício envolvendo um líder de uma organização terrorista que, segundo rumores, foi gerado pela IA como meio de produzir uma figura de proa poderosa para um grupo que estava perdendo líderes para ataques de drones.
A morte de Sinwar levou-me a pensar novamente sobre o que a era das ferramentas generativas de IA pode significar para o pensamento estratégico e o planeamento nas organizações que perdem figuras-chave.
Haverá em breve uma situação na vida real em que líderes mortos serão substituídos por ferramentas de IA que poderão produzir figuras virtuais que circulam através de vídeos deepfake e interações online? E poderiam ser usados pelos membros da organização para orientação estratégica e política?
Yahya Arhab/EPA
O autor cyberpunk americano Rudy Rucker já escreveu sobre a possibilidade de produzir o que chama de “caixa de vida”, onde uma pessoa poderia ser simulada em mundos digitais. Filmes como o thriller de ficção científica norte-americano de 2014, Transcendence, também exploraram a possibilidade de as pessoas serem capazes de “carregar” a sua consciência em mundos digitais.
A ideia de Rucker não é tanto aumentar a consciência. Em vez disso, trata-se de criar a simulação de uma pessoa com base em um grande banco de dados sobre o que ela escreveu, fez e disse.
Em seu romance de 2021, Juicy Ghosts, Rucker explora os problemas éticos e econômicos que podem resultar da produção de caixas salva-vidas por pessoas para sobreviver após suas mortes. Estas variam desde como você pode pagar por sua “vida” digital após a morte e se você seria capaz de controlar como sua caixa salva-vidas poderia ser usada.
A era da imortalidade digital
A possibilidade de uma caixa salva-vidas assistida por IA no futuro não é tão absurda. A mudança tecnológica está a acontecer a um ritmo rápido e já existem ferramentas que utilizam a IA para o planeamento e orientação estratégicos.
Já temos uma noção dos desafios éticos, legais e estratégicos que podem estar à nossa frente no que respeita à preocupação em torno da utilização de ferramentas de IA pelos militares israelitas na guerra em Gaza. Em novembro, por exemplo, os militares alegaram que estavam usando um sistema baseado em IA chamado Habsora – que significa “o Evangelho” em inglês – para “produzir alvos em ritmo acelerado”.
Nem é preciso dizer que usar IA para identificar e rastrear alvos é muito diferente de usá-la para criar um líder digital. Mas, dada a velocidade atual da inovação tecnológica, não é implausível imaginar um líder gerando uma identidade de IA pós-morte no futuro com base nos livros de história que os influenciaram, nos eventos que viveram ou nas estratégias e missões em que estiveram envolvidos. E-mails e postagens em mídias sociais também podem ser usados para treinar a IA enquanto a simulação do líder está sendo criada.
Se a simulação de IA funcionar de forma útil e convincente, poderemos chegar a uma situação em que ela se torne o líder da organização. Em alguns casos, ceder ao líder da IA faria sentido político, dada a forma como o líder virtual não humano pode ser responsabilizado por erros estratégicos ou táticos.
Também poderá acontecer que o líder da IA possa pensar de formas que excedam a origem humana e tenha capacidades e capacidades estratégicas, organizacionais e técnicas grandemente melhoradas. Este é um campo que já está sendo considerado pelos cientistas. A iniciativa do desafio Nobel Turing, por exemplo, está a trabalhar para desenvolver um sistema de IA autónomo que possa realizar investigação digna de ganhar o prémio Nobel e mais além, até 2050.
Um líder político ou terrorista virtual é, naturalmente, atualmente apenas um cenário de um filme ou romance cyberpunk. Mas quanto tempo demorará até que comecemos a ver os líderes experimentarem as possibilidades emergentes da imortalidade digital?
Pode acontecer que algures no Kremlin um dos muitos projectos que estão a ser desenvolvidos por Putin em preparação para a sua morte seja a exploração de uma caixa salva-vidas de IA que poderia ser usada para guiar os líderes russos que o seguem. Ele também poderia estar explorando tecnologias que lhe permitiriam ser “carregado” em um novo corpo no momento de sua morte.
Marzufello/Shutterstock
Provavelmente não é esse o caso. Mas, não obstante, é provável que ferramentas estratégicas de IA sejam utilizadas no futuro – a questão será quem irá concebê-las e moldá-las (e possivelmente habitá-las). Também é provável que haja limites ao significado político e organizacional dos líderes mortos.
Podem surgir preocupações de que os hackers possam manipular e sabotar o líder da IA. Haverá uma sensação de incerteza de que a IA será manipulada através de operações para influenciar e subverter de uma forma que apague toda a confiança nas “mentes” digitais que existem após a morte. Pode haver a preocupação de que a IA esteja a desenvolver os seus próprios desejos políticos e estratégicos.
E pode muito bem acontecer que estas tentativas de imortalidade da IA sejam vistas como uma obstrução desnecessária e inútil por quem substituir figuras como Sinwar e Putin. O líder imortal poderá continuar a ser simplesmente uma fantasia tecnológica de políticos narcisistas que querem viver para sempre.
.
