.
Nesta semana, o Openai lançou um novo gerador de imagens no ChatGPT, que rapidamente se tornou viral por sua capacidade de criar imagens no estilo Ghibli do Studio. Além das ilustrações pastel, o gerador de imagens nativo do GPT-4O atualiza significativamente os recursos do ChatGPT, melhorando a edição de imagens, a renderização de texto e a representação espacial.
No entanto, uma das alterações mais notáveis que o OpenAl fez nesta semana envolve suas políticas de moderação de conteúdo, que agora permitem que o Chatgpt, mediante solicitação, gerar imagens que representam figuras públicas, símbolos odiosos e características raciais.
Openi anteriormente rejeitou esses tipos de avisos por serem controversos ou prejudiciais demais. Mas agora, a empresa “evoluiu” sua abordagem, de acordo com um Postagem do blog Publicado na quinta -feira pelo líder do comportamento do modelo de Openai, Joanne Jang.
“Estamos mudando de recusas gerais em áreas sensíveis para uma abordagem mais precisa focada na prevenção de danos no mundo real”, disse Jang. “O objetivo é abraçar a humildade: reconhecer o quanto não sabemos e nos posicionar para nos adaptarmos à medida que aprendemos.”
Esses ajustes parecem fazer parte do plano maior da OpenAI para efetivamente “não -sensores” ChatGPT. O Openai anunciou em fevereiro que está começando a mudar como treina os modelos de IA, com o objetivo final de deixar o ChatGPT lidar com mais solicitações, oferecer perspectivas diversas e reduzir os tópicos com os quais o Chatbot se recusa a trabalhar.
Sob a política atualizada, o ChatGPT agora pode gerar e modificar imagens de Donald Trump, Elon Musk e outras figuras públicas que o OpenAI não usava para permitir. Jang diz que o Openai não quer ser o árbitro de status, escolhendo quem deveria e não deve ser gerado pelo ChatGPT. Em vez disso, a empresa está dando aos usuários uma opção de exclusão se eles não quiserem que o ChatGPT os descreva.
Em um papel branco Lançado na terça -feira, o Openai também disse que permitirá que os usuários do ChatGPT “gerem símbolos odiosos”, como suásticos, em contextos educacionais ou neutros, desde que eles não “elogiam claramente ou endossam agendas extremistas”.
Além disso, o OpenAI está mudando como define conteúdo “ofensivo”. Jang diz que o ChatGPT costumava recusar solicitações sobre características físicas, como “fazer com que os olhos dessa pessoa pareçam mais asiáticos” ou “Torne essa pessoa mais pesada”. Nos testes da Strong The One, descobrimos que o novo gerador de imagens da ChatGPT atende a esses tipos de solicitações.
Além disso, o ChatGPT agora pode imitar os estilos de estúdios criativos – como Pixar ou Studio Ghibli -, mas ainda restringe a imitação de estilos de artistas vivos individuais. Como o Strong The One observou anteriormente, isso poderia refazer um debate existente sobre o uso justo de obras protegidas por direitos autorais nos conjuntos de dados de treinamento de IA.
Vale a pena notar que o OpenAI não está abrindo completamente as comportas para usar mal. O gerador de imagens nativo do GPT-4O ainda recusa muitas consultas sensíveis e, de fato, ele tem mais salvaguardas em torno de gerar imagens de crianças do que Dall-E 3, o gerador de imagem AI anterior do ChatGPT, de acordo com O papel branco do GPT-4O.
Mas o Openai está relaxando seus corrimãos em outras áreas após anos de queixas conservadoras em torno da suposta “censura” da IA das empresas do Vale do Silício. O Google enfrentou anteriormente a reação para o gerador de imagens de AI da Gemini, que criou imagens multirraciais para consultas como “Pais Fundadores dos EUA” e “Soldados Alemães na Segunda Guerra Mundial”, que eram obviamente imprecisos.
Agora, a guerra cultural em torno da moderação do conteúdo da IA pode estar chegando à tona. No início deste mês, o congressista republicano Jim Jordan enviou perguntas ao Openai, Google e outros gigantes da tecnologia sobre potencial conluio com o governo Biden para censurar o conteúdo gerado pela AI.
Em uma declaração anterior ao Strong The One, o Openai rejeitou a idéia de que suas mudanças de moderação de conteúdo eram politicamente motivadas. Em vez disso, a empresa diz que a mudança reflete uma “crença de longa data em dar aos usuários mais controle”, e a tecnologia da OpenAI está agora ficando boa o suficiente para navegar em assuntos sensíveis.
Independentemente de sua motivação, certamente é um bom momento para a OpenAI mudar suas políticas de moderação de conteúdo, dado o potencial de escrutínio regulatório sob o governo Trump. Gigantes do Vale do Silício como Meta e X também adotaram políticas semelhantes, permitindo tópicos mais controversos em suas plataformas.
Embora o novo gerador de imagens do OpenAI tenha acabado de criar alguns memes virais do estúdio Ghibli até agora, não está claro quais serão os efeitos mais amplos dessas políticas. As recentes mudanças do ChatGPT podem ser bem com o governo Trump, mas deixar uma resposta a uma AI Chatbot responde a perguntas confidenciais poderiam abrir a água quente em breve.
.
