A espada de damocles e quando IA tem que evitar ser “Woke” e “não ser inclusiva” ao mesmo tempo

Esse post é uma reflexão sobre a notícia do Poder360 Imagens por IA do Google fazem parte da cultura “woke”, diz “NY Post”, recomendo a leitura para contextualização.

Em suma, é o fato de que o Google liberou o acesso a nova versão de sua IA Gemini e a geração de imagens estava apresentando alguns resultados controversos para dizer o mínimo, como uma Papisa negra, quando se era requisitado a imagem de um Papa.

Créditos: Poder360/Gemini

Em outro caso exibiu um negro quando questionado sobre uma imagem dos “Pais Fundadores” dos EUA, e quando foi requisitado uma explicação do porque o fez, a IA respondeu que queria ser mais inclusiva.

Então, isso foi o que aconteceu e o Google até desativou o recurso. O que me leva a especular os motivos disso, que vão muito além de querer ser “Woke”, expressão que me causa uma certa repulsa e que geralmente eu só vejo pessoas de Direita utilizar.

Basicamente ao meu ver em 99% das vezes que eu vejo a expressão “Woke” é criticando um suposto movimento que é composto por pessoas que tentam distorcer até a realidade para serem mais inclusivas ou fazerem reparação histórica.

Entretanto, não vejo pessoas de esquerda usarem o termo, nunca vi alguém dizendo ser “woke”, só vejo pessoas de direita criticando, mas, enfim, voltando ao cerne da questão, temos um problema aqui que deve ter ocorrido no treinamento, em que buscou-se criar uma IA mais inclusiva, e esta generalizou essa ideia para todos os casos, causando para o desespero dos conservadores imagens que vão contra o que estes tem de mais sagrado.

Convenhamos que também resultou em uma retratação historicamente incorreta, o que também é preocupante. Mas, erros como esse também já ocorreram com dados de treinamento que não eram inclusivos e que geravam conteúdo racista ou com no mínimo viés racista.

Então, ao meu ver é um desafio hercúleo conseguir criar uma IA que seja ao mesmo equilibrada ao ponto de ser inclusiva, e quando for pedida que gere uma imagem ela não caia estereótipo racistas, por exemplo, como quando for solicitado que nos crie uma imagem de um bandido, este não seja negro.

São desafios consideráveis, ter que se pesar os estereótipos e vieses e ao mesmo tempo ser factualmente correta quando for necessário. Creio que esse é um dos maiores desafios da contemporaniedade em IA, pois, o produto será analisado e usado em narrativas tanto pela esquerda progressista, defensora das pautas identitárias, quanto pelos conservadores que acusarão a empresa de estar sendo “Woke”.

Temos que entender que esses modelos apenas representam o que aprenderam no treinamento, se as bases de dados possuem vieses, eles estarão presentes no produto final, por exemplo, sem a orientação correta, quando se pedisse uma imagem de um advogado ou arquiteto, ele nunca seria negro, diante dessa reflexão, a Google deve ter feito o possível para evitar que a IA reproduzisse preconceitos e fosse mais inclusiva, o que ocasionou nesse resultado inesperado.

Esses modelos não conseguem discernir quando aplicar uma regra tão complexa quanto pesar quando se deve ser historicamente preciso e quando deve ser inclusivo, se nos seus prompts internos também consta a regra de que esta deve buscar ser inclusiva, ela o fará independente do contexto. Afinal, é apenas um modelo.

Agora é esperar para ver o que o Google irá fazer…