.
O que você precisa saber
- O Google declara formalmente o que deu errado com a geração de imagens de IA do Gemini, o que levou a empresa a desativar a ferramenta em 22 de fevereiro.
- A empresa afirma que ajustou o Gemini para ser mais diversificado, evitando problemas com a geração de IA, porém, foi longe demais e tornou o bot “cauteloso”.
- O Google afirma que retirou a parte de geração de imagens do Gemini para testes internos, dizendo que a IA é propensa a alucinações e ainda pode criar resultados “imprecisos”.
O Google apresentou um acompanhamento formal sobre o que aconteceu com a geração imprecisa de imagens de IA do modelo Gemini para solicitações específicas.
De acordo com o Google, quando os usuários solicitam ao bot uma série de imagens relacionadas a uma cultura específica ou linha do tempo histórica, eles devem “obter absolutamente uma resposta que reflita com precisão” sua intenção. No entanto, esse não foi o caso, e o Google afirma que suas medidas de “ajuste” foram onde as coisas deram errado pela primeira vez.
A postagem acrescenta: “nós o ajustamos para garantir que não caia em algumas das armadilhas que vimos no passado com a tecnologia de geração de imagens”, como abuso ou imagens explícitas. Infelizmente, como explica o Google, o ajuste deles não levou em conta situações em que um largo gama de diversidade não é apropriada.
A segunda falha diz respeito a Gêmeos que se torna cada vez mais “cauteloso” e recusa sugestões, ao mesmo tempo que trata os outros com muita sensibilidade. Diz-se que ambos os problemas foram o catalisador por trás das imprecisões do Gemini ao tentar “compensar demais”.
A empresa afirma que isso “não era o que pretendíamos”. O Google também se posicionou contra a tentativa intencional de criar imprecisões envolvendo conteúdo histórico. Para corrigir os problemas, o Google levará a geração de imagens de IA do Gemini de volta a um período de testes para resolver as coisas.
A postagem acrescenta que o Google não pode prometer que Gemini não terá alucinações ou criará “resultados embaraçosos, imprecisos ou ofensivos”, mesmo depois de o trabalho ser dito e feito. No entanto, a empresa afirma que tomará as medidas cabíveis sempre que surgirem problemas.
Enquanto isso, o Google sugere que os usuários usem a geração de imagens de IA do Search, já que os sistemas usados aproveitam “informações frescas e de alta qualidade” da web.
O Google desativou oficialmente a capacidade do Gemini de gerar imagens de IA com base na solicitação do usuário ontem (22 de fevereiro). Isso ocorreu à luz de uma forte onda de relatos de usuários e críticas sobre a exibição imprecisa de figuras históricas e grupos de pessoas pelo bot. Embora o Google tenha tentado encorajar Gemini a produzir imagens de pessoas com diversidade, rapidamente ficou evidente que essa mentalidade não se aplica a todas as solicitações.
A empresa afirmou ontem que “errou o alvo” e agora estamos vendo as seguintes etapas para corrigir as coisas. O Google ainda não disse quando a geração de imagens de IA do Gemini retornará.
.
