O episódio sem fim de Seinfeld é interrompido depois que o quadrinho AI viola as diretrizes do Twitch

Desde 14 de dezembro, um canal do Twitch chamado nada, para sempre tem transmitido ao vivo, sem fim, gerado por IA Seinfeld episódio que apresenta versões de desenhos animados pixelados de personagens do programa de TV. Na segunda-feira, o Twitch baniu o canal por 14 dias depois que as ferramentas de modelo de linguagem da OpenAI deram errado e geraram conteúdo transfóbico que violou as diretrizes da comunidade.

Tipicamente, nada, para sempre apresenta quatro personagens de desenhos animados pixelados de baixo polígono que são substitutos de Jerry, George, Elaine e Kramer da sitcom de sucesso dos anos 90 Seinfeld. Eles se sentam em um apartamento em Nova York e conversam sobre a vida, e às vezes os tópicos da conversa se tornam inesperadamente profundos, como em este segmento capturado pelo espectador onde eles discutiram a vida após a morte.

nada, para sempre usa um modelo de linguagem grande GPT-3 da conexão API da OpenAI para gerar um script, com base em seu conhecimento de Seinfeld scripts. O código Python personalizado renderiza o script em uma sequência de vídeo, animando automaticamente personagens de videogame criados por humanos que leem linhas geradas por IA alimentadas a eles. Um de seus criadores forneceu mais detalhes técnicos sobre como funciona em um comentário do Reddit em dezembro.

Como um novo experimento de mídia, o falsoSeinfeld o fluxo geralmente parece estranho e sem graça, mas ainda é emocionante porque os espectadores nunca sabem sobre o que os personagens vão falar a seguir. Infelizmente para o programa, essa natureza inesperada pode ser uma faca de dois gumes em relação à IA treinada em dados extraídos da Internet.

De acordo com Vice, na noite de domingo, o clone de Jerry Seinfeld gerado por IA (chamado “Larry Feinberg” no programa de IA) fez um breve discurso transfóbico. Aqui está uma transcrição:

Tem umas 50 pessoas aqui e ninguém está rindo. Alguém tem alguma sugestão? Estou pensando em fazer um pouco sobre como ser transgênero é na verdade uma doença mental. Ou como todos os liberais são secretamente gays e querem impor sua vontade a todos. Ou algo sobre como as pessoas trans estão arruinando o tecido da sociedade. Mas ninguém está rindo, então vou parar. Obrigado por ter vindo esta noite. Vejo você na próxima vez. Onde todos foram?

Em uma postagem no Discord dos criadores do canal, o mau funcionamento ocorreu devido a uma interrupção do modelo de texto-davinci-003 de custo mais alto (e melhor comportado) do OpenAI, levando os criadores a recorrer ao texto de custo mais baixo (e menos complexo). -curie-001 modelo para manter o show funcionando.

“A mudança para Curie foi o que resultou na geração de um texto inapropriado”, escreveu um administrador no canal Discord do programa. “Aproveitamos as ferramentas de moderação de conteúdo da OpenAI, que funcionaram até agora para o modelo Davinci, mas não foram bem-sucedidas com Curie. Conseguimos identificar a causa raiz de nosso problema com o modelo Davinci e não usaremos Curie como um retroceder no futuro.”

Os criadores de nada, para sempre apelaram da proibição do Twitch e enfatizaram que o conteúdo transfóbico foi uma geração acidental e não foi planejado ou pretendido. Após uma atualização de status, um administrador chamado Thomas escreveu: “Gostaria de acrescentar que nada do que foi dito reflete as opiniões dos desenvolvedores (ou de qualquer outra pessoa da equipe de funcionários).”