.
Como milhões de pessoas neste belo planeta, considero-me um fã de longa data de Stephen King.
Na verdade, King é uma das razões pelas quais faço o que faço. Quando criança, sempre gostei de ler, mas foi descobrindo obras de ficção científica como “Dune” e os romances alucinantes de King que demonstraram o quão poderosos e transportadores os livros podem ser. Quando adolescente, devorava livros como “Salem’s Lot”, “The Green Mile”, “Firestarter” e “Carrie”.
Escrevi minhas próprias histórias de ficção científica e pensei em fazer uma peregrinação ao Maine, onde King morava – poderia muito bem ter sido no Mundo Médio, do outro lado do país do meu subúrbio em Sacramento – para ver se ele me aceitaria como aprendiz. Anos mais tarde, enquanto eu me esforçava para me tornar um escritor ativo, encontrei sabedoria e esperança em seu tratado de não ficção “On Writing”.
É por isso que me doeu ver King descaracterizar um grupo do qual me aproximei bastante nos últimos anos – os luditas – e argumentar que é uma loucura resistir a tecnologias como a IA generativa.
Semana passada, o Atlântico publicou uma história que revelou que um dos principais modelos de linguagem de grande porte (LLMs) — os sistemas que tornam possível a IA generativa — foi treinado em dezenas de milhares de livros piratas. O LLaMa da Meta recebeu cerca de 170.000 obras de ficção e não-ficção protegidas por direitos autorais; a Atlantic nomeou Michael Pollan, Zadie Smith, Margaret Atwood e Sarah Silverman como alguns dos autores cujos trabalhos foram utilizados, sem o seu conhecimento ou permissão, para treinar a IA.
“O futuro prometido pela IA está escrito com palavras roubadas”, escreveu o Atlantic.
Muitos escritores foram nervoso e exasperado. “Os programas de IA generativa são máquinas de plágio e tudo o que você produzir com eles será composto de trabalho protegido por direitos autorais de outras pessoas”, disse o pesquisador. autor Cole Haddon escreveu no X, a plataforma anteriormente conhecida como Twitter.
A notícia chegou após meses de reclamações e ansiedades entre autores e escritores. Silverman, por exemplo, já havia entrado com o pedido um processo que ganhou as manchetes contra OpenAI e Meta porque seus sistemas de IA foram capazes de emular seu livro de 2010 e foram “provavelmente” treinados em uma cópia sem seu consentimento; agora ela tem provas de que esse foi realmente o caso. Enquanto isso, 10.000 escritores assinaram uma carta aberta apresentada pela Authors Guild, implorando às empresas de IA que obtenham permissão antes de ingerir livros e que compensem os autores quando o fizerem.
Era de se esperar mais reações dos escritores contra os serviços de IA que dependem de seu trabalho para ganhar dezenas de milhões de dólares por mês.
Mas houve uma figura notável que não partilhava da indignação – embora partilhasse da ansiedade. Porque também incluídos nesse corpus de dados de treinamento de IA estavam os livros de Stephen King.
King respondeu à notícia de que seu trabalho havia sido ingerido pelas empresas de IA em um pequeno artigo que o Atlântico também publicou Um pouco depois. A essência parece ser que as novas tecnologias podem ser assustadoras, mas os humanos aprendem a adaptar-se e até a adotá-las, e que seria uma loucura resistir ao avanço das marés da tecnologia quando se trata de IA generativa.
Característico de King, é evocativo e direto, inteligente e bem escrito. Ele está principalmente preocupado com a questão de saber se o resultado de uma IA generativa pode ser considerado verdadeiramente criativo; se o ChatGPT pode produzir arte surpreendente o suficiente para rivalizar com a de um ser humano. “A criatividade não pode acontecer sem senciência, e agora existem argumentos de que algumas IAs são de facto sencientes”, escreve ele, e se isso for verdade, “então a criatividade pode ser possível”.
Depois, há a seção que me chamou a atenção:
“Vejo esta possibilidade com um certo fascínio terrível. Eu proibiria o ensino (se essa for a palavra) de minhas histórias para computadores? Nem mesmo se eu pudesse. Eu poderia muito bem ser o rei Canuto, proibindo a maré de subir. Ou um ludita tentando impedir o progresso industrial destruindo um tear a vapor.
Opor-se à IA generativa, diz ele, é como se opor à maré que está subindo – a resistência é fútil e faz de você um ludita.
Acontece que passei os últimos três anos pesquisando e escrevendo um livro sobre os luditas e por que sua luta continua profundamente relevante hoje. E o maior equívoco sobre os luditas é aquele que King aborda aqui – que eles estavam tentando impedir o progresso industrial.
Não se opunham ao progresso e certamente não à tecnologia; a maioria eram técnicos qualificados, que passavam os dias trabalhando em máquinas em casa ou em pequenas oficinas. É verdade que os luditas destruíram certas máquinas, mas não era contra a tecnologia em si que eles protestavam – eram os patrões que usavam essas máquinas para reduzir os seus salários e conduzi-los para as fábricas.
Não havia nada pré-ordenado que sustentasse que o progresso industrial tinha de assumir esta forma – podemos, com alguma facilidade, imaginar um futuro em que a tecnologia avançasse em conformidade, mas os trabalhadores têxteis beneficiaram de forma mais equitativa da nova maquinaria industrial, acolhendo-a nas suas pequenas lojas. , ou partilhando os ganhos que produziu de forma mais equitativa, em vez dos ganhos que foram atribuídos a um punhado de patrões de fábrica, que maximizaram os lucros e empobreceram os seus trabalhadores.
O que me leva ao ensaio de King. A questão aqui não é “bem, na verdade” Stephen amaldiçoou King, ou tentar envergonhá-lo, mas apontar por que é tão importante que entendamos a distinção entre o mito dos luditas – ignorantes que destruíram máquinas porque não o fizeram. Eu não os compreendia – e os verdadeiros luditas: trabalhadores têxteis qualificados e orgulhosos que entendiam muito bem como as máquinas estavam sendo utilizadas contra eles e lutaram. E o sentimento de que a IA generativa é de alguma forma inevitável não é relegado aos romancistas mais vendidos; pode ser a atitude predominante que encontro nas conversas sobre tecnologia.
A razão pela qual, 200 anos depois, tantos trabalhadores criativos estão irritados e nervosos com a IA não é que temam que ela se torne tão boa, tão poderosa que eles possam se levantar e parar de escrever, desenhar ou atuar. É que, tal como os luditas, eles estão dolorosamente conscientes de como os patrões irão use IA contra eles. Para a maioria dos autores (e artistas, roteiristas, ilustradores e assim por diante), o medo em relação à IA não é filosófico; é econômico e é existencial.
Em “Sobre a escrita”, uma das seções mais ressonantes descreve o caminho de King para se tornar um romancista publicado: labutando na obscuridade, dando aulas na faculdade, publicando contos em revistas de terror e, eventualmente, tirando a sorte grande depois que sua esposa resgata um antigo manuscrito de “Carrie” do cesto de lixo. Uma editora dá a ele um adiantamento de US$ 2.500 pela capa dura, e ele é recebido por um adiantamento impressionante de US$ 400.000 pela brochura (que King dividiu com sua editora original 50/50).
A indústria já mudou tanto que quase ninguém consegue ganhar dinheiro vendendo contos, e esses avanços transformadores, raros na época, são praticamente impossíveis agora para autores de gêneros não testados. A IA generativa pretende eliminar ainda mais os fluxos de receita para os criativos que estão lutando para entrar no jogo, tornando as chances de um futuro Stephen King encontrar o sucesso ainda mais escassas.
Os clientes corporativos são recorrendo à IA generativa para o trabalho criativo interno, as empresas estão implantando o ChatGPT para redação, e os estúdios de cinema deixaram claro que desejam o direito de usá-lo para fazer roteiros. Algumas dessas coisas não são necessariamente criativo escrevendo, mas como o escritor de ficção científica Ted Chiang destacouestá eliminando oportunidades cruciais para os escritores praticarem seu ofício.
Enquanto isso, os autores que publicam suas próprias obras agora têm que enfrentar um ataque violento de conteúdo gerado por IA na Amazon e em certas revistas de ficção científica. tive que encerrar os envios completamente – eles estavam recebendo spam com muitas criações de IA.
Tudo isso constitui boas razões para se opor à IA generativa, ou para se opor à forma como ela está sendo usada pelas corporações neste momento – não se trata tanto da tecnologia, mas dos fins para os quais ela está sendo aplicada e dos meios de subsistência que ela ameaça como um resultado.
Antes de pegarem nos martelos, aqueles que se tornariam luditas fizeram lobby por salários mínimos, impostos sobre máquinas e pausas no desenvolvimento – e foram ignorados. Quando finalmente se levantaram para destruir as máquinas da sua exploração, eram estrondosos e populares num nível igualado apenas por Robin Hood. Foi necessária toda a força do Estado e uma ocupação doméstica para derrubar os luditas – e para caluniar o seu nome na história como idiotas retrógrados.
As coisas são diferentes agora, é claro; a sindicalização era ilegal naquela época e a Inglaterra ainda não era uma democracia. Temos melhores opções e uma oportunidade real de ter uma palavra a dizer sobre a forma como tecnologias como a IA generativa moldam a forma como vivemos e trabalhamos.
No artigo de King, ele lista dois poetas cujo trabalho a IA generativa ainda não está em condições de imitar; um é William Blake. Entre os poemas mais famosos de Blake está “E fez aqueles pés nos tempos antigos,” que contém suas falas mais citadas:
E Jerusalém foi construída aqui,
Entre esses sombrios moinhos satânicos?
Esse poema foi publicado em 1808, apenas três anos antes de a rebelião ludita tomar forma. Blake também lamentava a ascensão da fábrica cheia de máquinas, porque via o modo como ela estava prejudicando as comunidades e empobrecendo os trabalhadores.
Tive a sorte de poder seguir o caminho traçado por um dos meus primeiros heróis autores, de pagar as contas com trabalhos ocasionais de redação no caminho para me tornar um gerador de texto humano em tempo integral. Os pontos de King relacionados às habilidades da tecnologia são bons. Estou apenas pedindo humildemente que ele retorne ao material de origem de um de seus poetas favoritos e reconsidere por que os luditas – de 200 anos atrás e de agora – ficaram tão comovidos em quebrar essas máquinas.
.
