TechScape: Imagens feitas por IA significam que ver não é mais acreditar | Tecnologia

Uma coisa estranha aconteceu na semana passada quando você pesquisou “homem tanque” no Google.

Toque nos resultados das imagens e, em vez das fotos habituais da Praça Tiananmen, em Pequim, e da imagem icônica de um bravo manifestante olhando para um comboio de tanques que foi capturada em 1989, o primeiro resultado foi o mesmo momento histórico – mas de um ponto diferente de vista.

Por algum tempo, na semana passada, o primeiro resultado no Imagens do Google para “homem-tanque” foi, em vez disso, uma imagem gerada por IA do mesmo manifestante, tirando uma selfie na frente do tanque. A imagem foi criada por Midjourney e tinha pelo menos seis meses. Relatado pela primeira vez pela 404 Media, uma nova startup de jornalismo tecnológico criada por ex-funcionários da Vice News, o surgimento da selfie do homem-tanque – que o Google posteriormente removeu dos resultados de pesquisa para “homem-tanque” – destacou um dos principais medos de Eddie Perez, O ex-chefe de integridade eleitoral do Twitter destacou para mim em uma recente entrevista em podcast: agora é possível, com o uso de imagens de IA, criar uma história alternativa. E isso tem enormes ramificações não só nas nossas vidas, mas também nas nossas eleições.

Quando falou comigo, Perez estava preocupado com o uso deliberado de imagens de IA para enganar os eleitores, fazendo-os acreditar em factos alternativos: a desinformação. Mas o incidente do homem-tanque foi um exemplo de IA erroinformação – conteúdo postado de forma inócua, dentro de um contexto que deixava claro como foi feito, mas que foi então despojado desse contexto e apresentado como outra coisa.

As imagens são uma ferramenta poderosa e assustadora para a IA lidar por causa de um punhado de velhas máximas. Um: uma imagem vale mais que mil palavras. O outro? Ver é crer.

É fácil desconsiderar uma história se você estiver apenas lendo sobre ela. Se você vir com seus próprios olhos e ver as imagens nele incluídas, imediatamente se tornará mais crédulo. Esta é uma questão que destaquei há seis meses, quando imagens geradas por IA de Donald Trump sendo preso se tornaram virais nas redes sociais. Numa era pré-ChatGPT, quando as ferramentas não estavam disponíveis para todos, nós as chamaríamos de “deepfakes”.

Naquela altura, perguntei ao criador da série de imagens, o jornalista do Bellingcat, Eliot Higgins, cujo trabalho era encontrar buracos nas qualidades desinformativas da propaganda russa, se ele se preocupava em estar a contribuir para a questão das notícias falsas. Na época não, pensar que sempre havia brindes que destacassem uma imagem era produto da IA.

Hoje, ele ainda não está preocupado com as pessoas brincando com a ferramenta nas redes sociais, mas sim com o fato de os políticos usarem ferramentas de IA para criar fotos que prejudicam seus oponentes. (A campanha de Ron DeSantis já fez isso.) “Acho que veremos à medida que as eleições nos EUA avançam até que ponto as coisas ficam ruins”, diz ele, “mas não acho que os apoiadores de Trump teriam vergonha de usar imagens geradas por IA”.

A propósito, há uma certa ironia na história do homem-tanque da IA.

Durante meses, Igor Szpotakowski, que investiga o direito chinês na Universidade de Newcastle, tem falado sobre a forma como a versão chinesa das ferramentas generativas de IA está a responder exactamente às mesmas ameaças de reescrever a história – neste caso, de formas que o Partido Comunista no poder poderá não gostar. Szpotakowski tem capturas de tela de como um modelo de geração de imagens desenvolvido pela Baidu, uma gigante empresa de tecnologia chinesa, criará imagens em resposta a um pedido pedindo para retratar “ditadura”, mas não o fará quando solicitado a mostrar “democracia e liberdade”. “Isso nos diz muito sobre os dados de treinamento”, diz Szpotakowski.

Em suas marcas, definido, falso

O pano de fundo para o desastre do homem-tanque é o ritmo crescente no desenvolvimento de imagens de IA, o que significa que esse tipo de deturpação (talvez seja melhor defini-la como má interpretação) provavelmente se tornará mais comum à medida que aumenta a capacidade de colocar habilidades artísticas nas mãos dos menos qualificados. .

Não sou artista e nunca fui. Mas dê-me Midjourney, DALL-E ou qualquer outro gerador de imagem de IA e alguns minutos para ajustar meu prompt (o pedaço de texto que aciona um gerador de imagem) e poderei produzir um trabalho que nunca seria possível em meus sonhos mais loucos de outra forma.

Assim como as ferramentas generativas de texto de IA estão melhorando a cada dia, os recursos dos geradores de imagens de IA também estão melhorando. Um dos maiores, o DALL-E 3 da OpenAI, será lançado para assinantes pagantes do ChatGPT Plus nas próximas semanas. Sou um desses assinantes e estou animado para ver o que ele oferece. O Twitter parece já ter decidiu que DALL-E 3 é igual e melhor que Midjourney, que já teve supremacia na confecção de imagens – tanto que chega a lançar uma revista mensal com seus melhores trechos.

No entanto, existem rumores na comunidade de IA de que, em resposta ao DALL-E 3, Midjourney também lançará uma atualização massiva que aumentará ainda mais suas capacidades. O DALL-E 3 poderia ser um momento ChatGPT para imagens generativas? Aconteça o que acontecer, parece provável que muito mais pessoas terão acesso a essas ferramentas em breve.

Uma coisa que ainda não abordamos é o impacto que isso tem sobre os artistas, muitos dos quais alegam que tais modelos de geração de imagens de IA são treinados em seus dados sem permissão. Na semana passada, para um futuro episódio do podcast Techtonic do Artigo 19, conversei com Karla Ortiz, uma artista que processou uma série de empresas que promovem geradores de imagens de IA. Você terá que esperar pelo episódio para saber o que ela disse, mas, enquanto isso, vale a pena ler seu depoimento de julho de 2023 a um subcomitê do Senado dos EUA sobre seus temores em relação aos direitos autorais na era da IA.

A semana em IA

• Uma cimeira sobre IA liderada pelo Reino Unido, em Novembro, abordará a crescente preocupação de Downing Street de que “criminosos ou terroristas possam usar inteligência artificial para causar destruição em massa”, informou o Guardian ontem.

• A Amazon está investindo até US$ 4 bilhões (£ 3,2 bilhões) em Antrópicouma startup que está construindo um rival do ChatGPT chamado… Claude?

• E por falar em arte e direitos de autor, uma decisão recente dos EUA sugere Obras de IA não podem ser protegidas por direitos autoraisenquanto o ator de Bollywood Anil Kapoor obteve uma fascinante vitória legal na Índia, impedindo o uso não autorizado de sua imagem, e o Atlantic revelou esta semana que quase 200.000 livros foram usados, sem permissão ou compensação, por empresas como Meta e Bloomberg para treinar sua IA generativa.

O TechScape mais amplo

• Para o Guardian, David Runciman passou meses seguindo as mesmas contas do Twitter que Elon Muskpara tentar responder: o que se passa na cabeça do homem mais rico do mundo?

• Zoe Williams, por sua vez, é fantástica sobre a ascensão e queda do fundador da FTX Sam Bankman-Fried.

• Um aplicativo promovido por André Tate foi removido da App Store da Apple após acusações de que promovia o que poderia ser um esquema de pirâmide ilegal. Não é de surpreender que, considerando quem está envolvido, também tenha sido acusado de espalhar misoginia.

• Há uma oportunidade surpreendentemente lucrativa em lendo obituários de jornais no YouTube.

• O que acontece se o seu iPhone quebrar Cuba, onde embargos comerciais significam que a Apple não opera? Técnicos não oficiais da Apple intervirão.

• Os anúncios estão chegando Vídeo principalo mais recente serviço de streaming para cobrar e interromper tudo o que você está assistindo.