Erros históricos e raciais levam Google a pausar gerador de imagens do Gemini

O Google suspendeu temporariamente a função de geração de imagens de pessoas do Gemini, ferramenta de inteligência artificial (IA) generativa lançada no início de fevereiro. A decisão foi tomada após diversos relatos de erros em representações históricas e raciais nos conteúdos criados pela tecnologia.

Em um dos casos que viralizou nas redes sociais, o Gemini gerou imagens de um homem negro e uma mulher asiática quando solicitado a criar fotos de soldados alemães em 1943. Outro exemplo mostra pessoas negras e indígenas figurando em um quadro sobre os "Pais Fundadores" dos Estados Unidos.

Em comunicado oficial, o Google reconheceu os erros e disse que a pausa na função de geração de imagens de pessoas é necessária para "trabalhar em uma versão melhorada". A empresa também explica que a IA generativa do Gemini, como qualquer modelo de linguagem, pode sofrer com "alucinações", gerando respostas sem sentido e/ou imprecisas.

Problemas e desafios da IA generativa

O caso do Gemini ilustra os desafios que a tecnologia de IA generativa ainda enfrenta. Apesar dos avanços significativos nos últimos anos, essas ferramentas ainda estão em desenvolvimento e podem apresentar falhas, especialmente quando se trata de temas complexos como raça, gênero e história.

• Apple condenada a pagar R$ 3,2 mil por vender iPhone sem carregador

Especialistas alertam para os riscos de viés e estereótipos

Especialistas em IA alertam que os erros do Gemini não são casos isolados e que a tecnologia de IA generativa pode perpetuar vieses e estereótipos presentes na sociedade. Para evitar esses problemas, é fundamental que as empresas que desenvolvem essas ferramentas implementem medidas rigorosas de controle e avaliação.

Futuro do Gemini e da IA generativa

O Google não divulgou um prazo para o retorno da função de geração de imagens de pessoas no Gemini. A empresa afirma que está trabalhando para melhorar a tecnologia e garantir que ela seja "mais precisa, justa e inclusiva".

O futuro da IA generativa é promissor, mas ainda há um longo caminho a ser percorrido antes que essa tecnologia possa ser utilizada de forma segura e responsável. É fundamental que os desenvolvedores, a sociedade civil e os governos trabalhem juntos para garantir que a IA seja utilizada para o bem e não para perpetuar desigualdades e injustiças.

• CCJ aprova projeto de lei que protege crianças e adolescentes na internet

O que podemos fazer?

Enquanto a tecnologia de IA generativa amadurece, podemos tomar algumas medidas para evitar a perpetuação de vieses e estereótipos:

- Conscientizar-se dos riscos: É importante entender que a IA generativa pode apresentar falhas e que os resultados gerados nem sempre são precisos ou confiáveis.

- Ser crítico: Ao utilizar ferramentas de IA generativa, é fundamental analisar criticamente os resultados e questionar se há algum viés ou estereótipo presente.

- Cobrar responsabilidade das empresas: É importante pressionar as empresas que desenvolvem ferramentas de IA generativa para que implementem medidas rigorosas de controle e avaliação.

Ao tomarmos essas medidas, podemos contribuir para um futuro mais justo e inclusivo da IA generativa.