.
Nem Sim! Neo nem Super Crazy Kids responderam ao pedido de comentários da WIRED.
Poucos Limites
Sim! Neo, Super Crazy Kids e outros canais semelhantes compartilham uma aparência comum: apresentam animação 3D em um estilo semelhante ao Cocomelon, o canal infantil mais popular do YouTube nos EUA. (Dana Steiner, porta-voz da Moonbug, controladora da Cocomelon, diz que nenhum de seus programas usa IA atualmente, “mas nossa talentosa equipe criativa está sempre explorando novas ferramentas e tecnologias”.)
Essa estética familiar significa que um pai ocupado olhando rapidamente para uma tela pode confundir o conteúdo de IA de um programa que eles examinaram. E embora não seja particularmente bem elaborado, o conteúdo dos vídeos divulgados por esses canais tende a ser de má qualidade, da mesma forma que grande parte do entretenimento infantil produzido pelo homem hoje em dia é de má qualidade – frenético, barulhento e sem originalidade.
O YouTube está em processo de introdução de novas políticas para conteúdo gerado por IA, embora a empresa não pretenda restringi-lo significativamente. “O YouTube em breve introduzirá rótulos de conteúdo e requisitos de divulgação para criadores que enviam conteúdo que contém material realista alterado ou sintético, incluindo conteúdo voltado para crianças e famílias”, disse a porta-voz do YouTube, Elena Hernandez.
Quando a WIRED perguntou se o YouTube buscaria proativamente conteúdo gerado por IA e o rotularia como tal, Hernandez disse que mais detalhes virão mais tarde, mas que planeja confiar principalmente na divulgação voluntária. “Nossa principal abordagem será exigir que os próprios criadores divulguem quando criaram conteúdo alterado ou sintético que seja realista.” A empresa afirma que usa uma combinação de filtros automatizados, revisão humana e feedback do usuário para determinar qual conteúdo está acessível no mais restrito Serviço YouTube Kids.
Alguns temem que o YouTube e os pais de todo o mundo não estejam adequadamente preparados para a próxima onda de conteúdo infantil gerado por IA. O neurocientista Erik Hoel assistiu recentemente a alguns tutoriais sobre como criar conteúdo infantil com IA, bem como a alguns vídeos que ele suspeita terem sido feitos usando a tecnologia. Hoel ficou tão perturbado com o que viu que investiu contra o conceito em seu Substack, inclusive ao destacar Super Crazy Kids. “Em todo o país há crianças jogadas na frente de iPads, sujeitas a escoamento sintético, privadas de contacto humano, mesmo nos meios de comunicação que consomem”, disse ele. escreveu. “Não há outra palavra senão distópico.”
O alerta de Hoel lembra o último grande escândalo sobre o YouTube infantil, apelidado de “Elsagate”. Tudo começou em 2017, quando as pessoas começaram a perceber vídeos surreais e perturbadores voltado para crianças na plataforma, muitas vezes apresentando personagens populares como Elsa do Disney’s CongeladasHomem-Aranha e o herói suíno titular de Peppa Pig. Embora o conteúdo gerado por IA não tenha atingido um nível semelhante, seus criadores parecem estar perseguindo um objetivo semelhante de chamar a atenção das recomendações automatizadas do YouTube.
Padre Bebê Criativo
Alguns canais de vídeo de IA mais obscuros já estão entrando em território estranho. O canal Brain Nursey Egg TV, por exemplo, dá aos seus vídeos perturbadores nomes como “Cars for Kids. Trailer do slide com letras.” A descrição do vídeo é uma sequência gigantesca de palavras-chave, incluindo “disney junior elimi birakma 24 chima sorozat BeamNG-Destruction ali babanın çiftliği şarkısı la brujita creative baby padre finger”.
O vídeo sem enredo é um amálgama de recursos visuais problemáticos, como globos oculares flutuantes e blocos de cores derretidos. A trilha sonora apresenta crianças aplaudindo, uma voz robótica contando, bebês individuais rindo e diferentes vozes robóticas entoando a palavra “YouTube” em intervalos aparentemente aleatórios. “Isso gerou vozes por toda parte e é alimentado por um roteiro gerado por IA ou pode ser uma das maiores e mais subestimadas obras de videoarte surrealista da memória recente”, diz Colman, do Reality Defender. De qualquer forma, esse tipo de conteúdo ainda não ganhou muita força – alguns dos vídeos do canal têm apenas algumas visualizações. Brain Nursery Egg TV não fornece um endereço de e-mail ou outra forma de contato com os administradores do canal.
.
