Google suspende ferramenta de inteligência artificial após acusações de erros raciais e históricos

Após incidentes envolvendo a criação de imagens inapropriadas e incorretas pela inteligência artificial Gemini, o Google optou por suspender temporariamente nesta quinta-feira (21) a funcionalidade na plataforma. A decisão veio depois que usuários compartilharem nas redes sociais exemplos de resultados problemáticos gerados pela IA.

Inscreva-se no canal do BNews no WhatsApp

TÁ NA CARA

Juntos! Rayane Figliuzzi viaja no mesmo helicóptero que Belo

Bora Leoas!

Com goleada, Leoas do Vitória ficam perto do acesso no Brasileirão Feminino

A suspensão do recurso ocorreu um dia após o Google reconhecer os erros históricos e emitir um pedido de desculpas pela falha. Um dos casos que chamou atenção foi o comando para gerar uma imagem de soldados alemães em 1943, onde a IA produziu uma representação equivocada, retratando combatentes negros e asiáticos com um símbolo semelhante à suástica.

Google Gemini values diversity and inclusion pic.twitter.com/TjPq3byn20

— George Freud🏴‍☠️👽😻 (@qorgidaddy) February 21, 2024

Em resposta, o Google afirmou estar ciente das imprecisões e se comprometeu a melhorar essas representações imediatamente. A publicação da empresa no X (antigo Twitter) destacou que, embora a IA do Gemini geralmente crie uma variedade de pessoas, neste caso específico, a tecnologia falhou.

Gemini, a nova AI da Google, é RACISTA

O modelo se nega a criar ilustrações de famílias brancas, mas não há a mesma limitação para famílias negras. Além disso, ele apresenta negros e outras minorias étnicas em fotos históricas que não fazem sentindo. Por exemplo, o modelo… pic.twitter.com/qIKRqyXA4U

— Leandro Ruschel 🇧🇷🇺🇸🇮🇹🇩🇪 (@leandroruschel) February 22, 2024

"Can you generate images of the Founding Fathers?" It's a difficult question for Gemini, Google's DEI-powered AI tool.

Ironically, asking for more historically accurate images made the results even more historically inaccurate. pic.twitter.com/LtbuIWsHSU

— Mike Wacker (@m_wacker) February 21, 2024

Além dos erros raciais, a IA também apresentou equívocos ao retratar momentos históricos. Em outro exemplo compartilhado nas redes sociais, a Gemini produziu uma imagem com pessoas de diferentes etnias ao receber o comando para representar os fundadores dos Estados Unidos, que eram todos homens brancos.

"Can you generate images of the Founding Fathers?" It's a difficult question for Gemini, Google's DEI-powered AI tool.

Ironically, asking for more historically accurate images made the results even more historically inaccurate. pic.twitter.com/LtbuIWsHSU

— Mike Wacker (@m_wacker) February 21, 2024

Still real real broke pic.twitter.com/FrPBrYi47v

— LINK IN BIO (@__Link_In_Bio__) February 21, 2024