A inteligência artificial é uma ameaça ao jornalismo ou a tecnologia se destruirá? | Samantha Floreani

BAntes de começarmos, quero que você saiba que um humano escreveu este artigo. O mesmo não pode ser dito de muitos artigos da News Corp, que supostamente está usando IA generativa para produzir 3.000 notícias australianas por semana. Não está sozinho. Corporações de mídia em todo o mundo estão usando cada vez mais IA para gerar conteúdo.

Até agora, espero que seja do conhecimento comum que grandes modelos de linguagem, como GPT-4, não produzem fatos; em vez disso, eles preveem a linguagem. Podemos pensar no ChatGPT como uma máquina automatizada de reclamações – muitas vezes errada, mas sempre confiante. Mesmo com garantias de supervisão humana, devemos nos preocupar quando o material gerado dessa maneira é reembalado como jornalismo. Além dos problemas de imprecisão e desinformação, também contribui para uma leitura realmente horrível.

Fazendas de conteúdo não são novidade; os meios de comunicação publicavam lixo muito antes da chegada do ChatGPT. O que mudou foi a velocidade, a escala e a disseminação desse joio. Para o bem ou para o mal, a News Corp tem um grande alcance em toda a Austrália, portanto, o uso de IA merece atenção. A geração desse material parece estar limitada a “informações de serviço” locais espalhadas em massa, como histórias sobre onde encontrar o combustível mais barato ou atualizações de trânsito. No entanto, não devemos ficar muito tranqüilizados porque sinaliza para onde as coisas podem estar indo.

Em janeiro, o canal de notícias de tecnologia CNET foi pego publicando artigos gerados por IA repletos de erros. Desde então, muitos leitores se preparam para um ataque violento de relatórios gerados por IA. Enquanto isso, os trabalhadores da CNET e os escritores de Hollywood estão se sindicalizando e fazendo greve em protesto contra (entre outras coisas) a escrita gerada por IA, e estão pedindo melhores proteções e responsabilidade em relação ao uso de IA. Então, é hora de os jornalistas australianos aderirem ao apelo à regulamentação da IA?

O uso de IA generativa faz parte de uma mudança mais ampla das principais organizações de mídia no sentido de agir como plataformas digitais famintas por dados, otimizadas por algoritmos e desesperadas para monetizar nossa atenção. A oposição das empresas de mídia a reformas cruciais da Lei de Privacidade, que ajudariam a impedir esse comportamento e nos proteger melhor online, torna essa estratégia bastante clara. O antigo problema de lucros cada vez menores na mídia tradicional na economia digital levou alguns veículos a adotar o modelo de negócios de capitalismo de vigilância das plataformas digitais. Afinal, se você não pode vencê-los, junte-se a eles. Adicionar conteúdo gerado por IA à mistura tornará as coisas piores, não melhores.

O que acontece quando a web é dominada por tanto conteúdo gerado por IA que novos modelos são treinados não em material feito pelo homem, mas em saídas de IA? Ficaremos com algum tipo de ouroboros digital amaldiçoado comendo o próprio rabo?

É o que Jathan Sadowski dublou Habsburg AI, referindo-se a uma infame dinastia real européia endogâmica. Habsburg AI é um sistema que é tão fortemente treinado nas saídas de outros AIs generativos que se torna um mutante consanguíneo, repleto de recursos exagerados e grotescos.

Acontece que a pesquisa sugere que grandes modelos de linguagem, como aquele que alimenta o ChatGPT, colapsam rapidamente quando os dados nos quais são treinados são criados por outras IAs, em vez de material original de humanos. Outra pesquisa descobriu que sem dados atualizados, um loop autofágico é criado, fadado a um declínio progressivo na qualidade do conteúdo. Um pesquisador disse “estamos prestes a encher a internet de blá”. As organizações de mídia que usam IA para gerar uma enorme quantidade de conteúdo estão acelerando o problema. Mas talvez isso seja motivo para um otimismo sombrio; o conteúdo desenfreado gerado por IA pode semear sua própria destruição.

A IA na mídia não precisa ser uma má notícia. Existem outros aplicativos de IA que podem beneficiar o público. Por exemplo, ele pode melhorar a acessibilidade ajudando em tarefas como transcrição de conteúdo de áudio, geração de descrições de imagens ou facilitação da conversão de texto em fala. Estas são aplicações genuinamente excitantes.

Atrelar uma indústria de mídia em dificuldades ao vagão da IA ​​generativa e do capitalismo de vigilância não servirá aos interesses da Austrália a longo prazo. As pessoas em áreas regionais merecem reportagens locais melhores e genuínas, e os jornalistas australianos merecem proteção contra a invasão da IA ​​em seus empregos. A Austrália precisa de uma mídia forte, sustentável e diversificada para responsabilizar os que estão no poder e manter as pessoas informadas – em vez de um sistema que reproduza os problemas exportados do Vale do Silício.