.
Mais de um ano após as greves duplas de Hollywood colocarem os holofotes sobre a adoção da IA pela indústria, os cineastas frequentemente se encontram em uma encruzilhada – como usar a IA generativa eticamente, se é que isso é possível? Onde traçar a linha do material sintético? Os cineastas de documentários, em particular, têm enfrentado preocupações crescentes sobre materiais de “arquivo falso”, como vozes, fotos ou vídeos gerados por IA.
À medida que Hollywood continua a adotar inteligência artificial na produção, um grupo de produtores de documentários publicou um conjunto inovador de diretrizes éticas para ajudar produtores, cineastas, estúdios, emissoras e streamers a abordar questões sobre o uso da tecnologia.
A Archival Producers Alliance (APA), um grupo voluntário de mais de 300 produtores e pesquisadores de documentários formado em resposta às preocupações sobre o uso de IA generativa em filmes de não ficção, desenvolveu as diretrizes ao longo de um ano, após a publicação de uma carta aberta no Hollywood Reporter exigindo mais barreiras para a indústria. As diretrizes, anunciadas no Camden Film Festival, não pretendem descartar as possibilidades de uma tecnologia que já está moldando todas as formas de narrativa visual, mas sim “reafirmar os valores jornalísticos que a comunidade documental há muito tempo mantém”.
“Em um mundo onde está se tornando difícil distinguir entre uma fotografia real e uma gerada, acreditamos que é absolutamente essencial entender as maneiras como a IA generativa pode impactar a narrativa de não ficção”, disse Stephanie Jenkins, codiretora da APA, em um comunicado.
Dezenas de importantes organizações de documentários endossaram as diretrizes no lançamento, incluindo a Documentary Producers Alliance (DPA) e a International Documentary Association (IDA), bem como mais de 50 cineastas individuais, como Michael Moore, Ken Burns e Rory Kennedy.
“O documentário é uma prática de arte que busca a verdade, mas a natureza da verdade sempre foi mutável”, disse Dominic Willsdon, diretor executivo da IDA. “A GenAI trará todos os tipos de mutações novas e profundas, algumas frutíferas, outras prejudiciais.” As diretrizes da APA “podem ajudar o campo do documentário a navegar nesta primeira fase de adoção mais ampla da IA”.
Em vez de rejeitar totalmente o uso de IA generativa, o grupo incentiva a consideração com base em quatro princípios abrangentes: o valor das fontes primárias, transparência, considerações legais e considerações éticas da criação de simulações humanas.
Os documentaristas, de acordo com as diretrizes, devem pensar sobre como o material sintético pode turvar o registro histórico; considerar os vieses algorítmicos codificados no material sintético; preservar a forma ou o meio original de uma fonte e alertar o público se algo foi alterado, usando texto ou dicas visuais; e tratar a geração de imagens com a mesma intencionalidade, cuidado com a precisão e sensibilidade que tratariam a recriação ou encenação tradicional.
“Embora existam grandes possibilidades criativas para essa tecnologia, sem considerar seus riscos potenciais, o conteúdo artificial inserido em documentários pode corroer permanentemente a confiança entre o cineasta e o público, e turvar o registro histórico”, disse Rachel Antell, codiretora da APA cujos créditos incluem o filme indicado ao Oscar Crip Camp. As diretrizes seguem uma série de controvérsias sobre IA em documentários, como um deepfake da voz de Anthony Bourdain em Roadrunner e alegações de fotos de “arquivo” geradas por IA no documentário da Netflix O que Jennifer fez.
As diretrizes enfatizam a transparência internamente – com equipes de produção, assessoria jurídica, seguradoras, distribuidoras, streamers e assuntos – assim como com o público. “A pedra angular das diretrizes é a transparência. O público deve entender o que está vendo e ouvindo – seja mídia autêntica ou gerada por IA”, disse a codiretora da APA, Jennifer Petrucelli.
após a promoção do boletim informativo
Para maior transparência, a APA sugere incluir ferramentas GenAI, criadores e empresas nos créditos, de forma semelhante a como filmagens e músicas de arquivo são reconhecidas. E as diretrizes abordam especificamente o uso de simulações humanas – comumente conhecidas como “deepfakes” – em filmes de não ficção, um tópico polêmico dado o uso da tecnologia para desinformação online.
O grupo está “animado com as possibilidades que as tecnologias emergentes trarão – especialmente para histórias que foram negligenciadas, suprimidas propositalmente ou não registradas de nenhuma forma”. Simulações humanas geradas por IA, eles notaram, podem ajudar a proteger a identidade de sujeitos documentais cuja participação os coloca em risco, como no filme Welcome to Chechnya de David France de 2020, que usou IA para disfarçar pessoas LGBTQ+ perseguidas na Rússia, ou em Another Body, que usou um véu de IA para esconder uma vítima de pornografia de vingança deepfake.
“Longe de ser diminuído pelos desafios impostos pela GenAI, há um grande potencial para aprimorar documentários de todos os tipos ao aproveitar responsavelmente essa nova tecnologia, observam as diretrizes. “Dito isso, reafirmamos o valor do trabalho humano e do discernimento no processo de produção.”
A esperança é que, com a introdução e adoção desses padrões, a produção de documentários “continue a ser uma forma envolvente, confiável e, acima de tudo, confiável de narrativa audiovisual que registra a história humana e expressa a experiência humana.
“As possibilidades do GenAI são ilimitadas – mas há alguns fardos que somente os cineastas podem carregar.”
.
