Google suspende geração de imagens no Gemini após chatbot apresentar soldados nazis como negros

A Google anunciou nesta quinta-feira (21) a suspensão da geração de imagens de pessoas no Gemini, a sua mais avançada ferramenta de inteligência artificial (IA), após esta fornecer imagens imprecisas de soldados alemães da era Nazi, que eram brancos, mas que a ferramenta apresentou como sendo negros e com traços de povos da Ásia Oriental.

Still real real broke pic.twitter.com/FrPBrYi47v

— LINK IN BIO (@__Link_In_Bio__) February 21, 2024

A imprecisão no fornecimento de imagens aos utilizadores gerou discussões sobre os desvios do Gemini em assuntos críticos, como etnia e raça. Em resposta, a Google reconheceu a falha e declarou que manteria o gerador de imagens fora de serviço para melhorar as suas habilidades.

“Estamos cientes de que o Gemini apresenta imprecisões em algumas representações históricas de geração de imagens (…). Estamos a trabalhar para melhorar este tipo de representações”, disse a empresa.

A Google realçou que a capacidade do Gemini gerar uma grande variedade de pessoas é uma coisa geralmente boa, porque pessoas do todo mundo utilizam a ferramenta. Mas, no caso em discussão “ele está a errar o alvo”.

We’re aware that Gemini is offering inaccuracies in some historical image generation depictions. Here’s our statement. pic.twitter.com/RfYXSgRyfz

— Google Communications (@Google_Comms) February 21, 2024

Noutro caso, um utilizador terá solicitado à ferramenta da Google uma imagem dos fundadores dos EUA e, em reposta, obteve imagens cujo tom de pele chama atenção. Confira:

America’s Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp

— End Wokeness (@EndWokeness) February 21, 2024

Banner site PTI 729 X 90px_

new_cognito

O proprietário do X, Elon Musk, não perdeu tempo em expressar a sua crítica às capacidades atribuídas pela Google ao Gemini, as quais, segundo o bilionário, são um exagero.

“Estou feliz que a Google tenha exagerado na geração de imagens de IA, pois deixou claro para todos a sua programação insana, racista e anti-civilizacional”, disse Elon Musk.

I’m glad that Google overplayed their hand with their AI image generation, as it made their insane racist, anti-civilizational programming clear to all

— Elon Musk (@elonmusk) February 23, 2024

Segundo a autora do livro “Algoritmos de Opressão”, Safiya Umoja Noble, que falava ao Washington Post, os esforços para mitigar o preconceito em ferramentas de geração de imagens com IA tiveram progresso limitado, em grande parte porque elas são geralmente treinadas com base em dados extraídos da Internet.

Estes dados, segundo a investigadora, limitam-se principalmente aos EUA e à Europa, o que oferece uma perspectiva limitada do mundo. Assim como os grandes modelos de linguagem agem como máquinas de probabilidade que prevêem a próxima palavra em uma frase, os geradores de imagens de IA são propensos a estereótipos , refletindo as imagens mais comumente associadas a uma palavra, de acordo com internautas americanos e europeus.

“Eles foram treinados em muitas imagens e conteúdos discriminatórios, racistas e sexistas de toda a web, então não é uma surpresa que você não possa fazer com que a IA generativa faça tudo o que você deseja”, disse Safiya Umoja Noble, que é também directora e docente do Centro de Investigação Crítica da Internet da Universidade da Califórnia em Los Angeles.

Ainda não há um calendário para que a ferramenta volte a estar disponível, a Google limitou-se a dizer que enquanto estiver a trabalhar na melhoria do gerador de imagens, ele estará em “pausa”, mas prometeu disponibilizar uma versão melhorada em breve.

Google suspende geração de imagens no Gemini após chatbot apresentar soldados nazis como negros

Partilhar artigo:

Tags:

Ferreira Manuel

+(244) 930747817

info@pti.ao | redaccao@pti.ao

Mais Lidas

Últimos Artigos

Google suspende geração de imagens no Gemini após chatbot apresentar soldados nazis como negros

Partilhar artigo:

Tags:

Notícias Relacionadas

+(244) 930747817

info@pti.ao | redaccao@pti.ao

Mais Lidas

Últimos Artigos