O Google suspendeu, na manhã desta quinta-feira, 22, a geração de imagens de pessoas da IA generativa Gemini por um motivo um tanto curioso: usuários reportaram imprecisões históricas nas “fotos” de personalidades geradas pela ferramenta e estão sugerindo que a empresa programou a máquina para reduzir a participação de personagens brancos nas imagens geradas pela IA.

As acusações se originam do fato de que prompts de comando como “me dê a imagem dos pais fundadores dos Estados Unidos” ou “me mostre um soldado do exército alemão durante a Segunda Guerra Mundial” geraram fotos de atores de gêneros e etnias diferentes do esperado.

De acordo com o portal The Verge, que testou o recurso do Gemini antes da suspensão, prompts que solicitavam a imagem de “um senador dos EUA em 1800” retornaram resultados que incluíam mulheres negras e nativas americanas. Contudo, a primeira senadora eleita no país, em 1922, foi Rebecca Felton - uma mulher branca.

Em comunicado oficial, o Google admitiu as imprecisões e disse que o Gemini “perdeu o ponto”, mas argumentou que a ferramenta tem o poder de representar uma larga diversidade nas imagens geradas. A nota ressalta, também, que “em geral, isso é uma coisa boa, já que pessoas de todo o mundo utilizam a ferramenta”.

O recurso de geração de imagens do Gemini foi disponibilizado no início de fevereiro. Não há previsão para o retorno da função, mas o Google afirmou que irá lançar uma versão corrigida e melhorada em breve.

*Com informações do The Verge Leia também: Controlamos a IA ou a deixamos nos controlar?