Google suspende geração de imagens no Gemini após chatbot apresentar soldados nazis como negros

Google agora permite localizar dispositivos perdidos mesmo que estejam sem carga
A Google anunciou nesta quinta-feira (21) a suspensão da geração de imagens de pessoas no Gemini, a sua mais avançada ferramenta de inteligência artificial (IA), após esta fornecer imagens imprecisas de soldados alemães da era Nazi, que eram brancos, mas que a ferramenta apresentou como sendo negros e com traços de povos da Ásia Oriental.

A imprecisão no fornecimento de imagens aos utilizadores gerou discussões sobre os desvios do Gemini em assuntos críticos, como etnia e raça. Em resposta, a Google reconheceu a falha e declarou que manteria o gerador de imagens fora de serviço para melhorar as suas habilidades.
 
“Estamos cientes de que o Gemini apresenta imprecisões em algumas representações históricas de geração de imagens (…). Estamos a trabalhar para melhorar este tipo de representações”, disse a empresa.
 
A Google realçou que a capacidade do Gemini gerar uma grande variedade de pessoas é uma coisa geralmente boa, porque pessoas do todo mundo utilizam a ferramenta. Mas, no caso em discussão “ele está a errar o alvo”.
 

Noutro caso, um utilizador terá solicitado à ferramenta da Google uma imagem dos fundadores dos EUA e, em reposta, obteve imagens cujo tom de pele chama atenção. Confira:

O proprietário do X, Elon Musk, não perdeu tempo em expressar a sua crítica às capacidades atribuídas pela Google ao Gemini, as quais, segundo o bilionário, são um exagero.

“Estou feliz que a Google tenha exagerado na geração de imagens de IA, pois deixou claro para todos a sua programação insana, racista e anti-civilizacional”, disse Elon Musk.
 

Segundo a autora do livro “Algoritmos de Opressão”, Safiya Umoja Noble, que falava ao Washington Post, os esforços para mitigar o preconceito em ferramentas de geração de imagens com IA tiveram progresso limitado, em grande parte porque elas são geralmente treinadas com base em dados extraídos da Internet.

Estes dados, segundo a investigadora, limitam-se principalmente aos EUA e à Europa, o que oferece uma perspectiva limitada do mundo. Assim como os grandes modelos de linguagem agem como máquinas de probabilidade que prevêem a próxima palavra em uma frase, os geradores de imagens de IA são propensos a estereótipos , refletindo as imagens mais comumente associadas a uma palavra, de acordo com internautas americanos e europeus.
 
“Eles foram treinados em muitas imagens e conteúdos discriminatórios, racistas e sexistas de toda a web, então não é uma surpresa que você não possa fazer com que a IA generativa faça tudo o que você deseja”, disse Safiya Umoja Noble, que é também directora e docente do Centro de Investigação Crítica da Internet da Universidade da Califórnia em Los Angeles.
 
Ainda não há um calendário para que a ferramenta volte a estar disponível, a Google limitou-se a dizer que enquanto estiver a trabalhar na melhoria do gerador de imagens, ele estará em “pausa”, mas prometeu disponibilizar uma versão melhorada em breve.

Partilhar artigo:

Somos um portal de notícias, voltado às tecnologias de informação e inovação tecnológica. Informamos com Rigor, Objectividade e Imparcialidade. Primamos pela qualidade, oferecendo aos nossos leitores, a inclusão tecnológica e a literacia digital

+(244) 930747817

info@pti.ao | redaccao@pti.ao

Mais Lidas

Últimos Artigos

Desenvolvido Por SP Media