Meta, a empresa por trás do Instagram, está sob pressão por suas ferramentas de imagem de IA devido a preocupações sobre como elas representam diferentes raças. Relatórios recentes de especialistas em tecnologia mostraram que as ferramentas do Meta frequentemente cometem erros ao gerar imagens de pessoas de diferentes origens raciais.
Os primeiros problemas ficaram claros quando Mia Sato percebeu um problema. Em um recente relatório, Sato notou algo estranho com o gerador de imagens do Instagram. Normalmente, você poderia digitar palavras como “homem asiático” e tirar uma foto. Mas quando Mia tentou, todas as fotos mostravam as pessoas como asiáticas, mesmo quando não deveriam ser.
Então, as coisas ficaram ainda mais estranhas. Quando Sato tentou novamente mais tarde, a ferramenta não funcionou. Em vez de fotos, mostrava uma mensagem de erro dizendo que algo deu errado.
Não está claro por que isso aconteceu, mas é algo para ficar de olho. Por enquanto, o mistério permanece sem solução.
A CNN também investigou o assunto e encontrou problemas semelhantes. Ao perguntar Imagine com Meta AI para mostrar imagens de casais inter-raciais, os resultados muitas vezes não eram precisos, faltando a diversidade de diferentes raças.
Meta diz que está trabalhando para corrigir esses problemas e tornar suas ferramentas menos tendenciosas. Mas isso não é um problema apenas para a Meta – outras empresas de tecnologia tiveram problemas semelhantes com suas ferramentas de IA. Isso mostra que tornar a IA justa e precisa é um trabalho árduo.
No futuro, é crucial que as empresas de tecnologia sejam abertas sobre como funciona a sua IA e continuem a trabalhar para torná-la justa para todos. As lutas da Meta mostram que ainda há um longo caminho a percorrer antes que a IA possa realmente representar o seu poder.
Crédito da imagem em destaque: Catherine Thorbecke/CNN
