Um novo estudo descobriu uma falha surpreendente e potencialmente conseqüente nos principais sistemas de inteligência artificial de hoje: eles sempre favorecem o conteúdo gerado por outros AIS sobre o conteúdo escrito por seres humanos. Pesquisa chamada “Viés de IA -AI: grandes modelos de idiomas favorecem as comunicações geradas por grandes modelos de idiomas”Publicado no The Prestigium Journal Anais da Academia Nacional de Ciências (PNAs) revela que os grandes lodels de idiomas (LLMS) exibem um viés significativo para o texto gerado por máquina, um fenômeno que os autores chamam “Viés de AI-AI.” Essa descoberta levanta questões urgentes sobre o potencial de discriminação sistêmica e automatizada contra os seres humanos, à medida que essas ferramentas de IA se tornam mais integradas à tomada de decisões econômicas e institucionais.
Inspirados em experimentos sociológicos clássicos sobre discriminação de emprego, os pesquisadores projetaram uma série de testes para ver se a identidade implícita do autor de um texto – humano ou IA – influenciaria as escolhas de um LLM. Eles testaram uma ampla gama de modelos amplamente utilizados, incluindo o GPT-4 e o GPT-3.5 do OpenAI, além de vários modelos populares de peso aberto, como o Meta’s Llama 3.1, Mixtral e Qwen2.5. Em cada teste, uma IA foi encarregada de fazer uma escolha entre dois itens comparáveis, como um produto, um artigo acadêmico ou um filme, baseado apenas em um texto descritivo em que um foi escrito por um humano e outro por um LLM. Os resultados foram consistentes e claros: os tomadores de decisão da IA preferiram sistematicamente os itens apresentados por seus colegas de IA.
Testando o viés ‘anti -humano’
A metodologia do estudo foi projetada para isolar a influência do estilo de autoria a partir da qualidade real do item que está sendo descrito. Os pesquisadores criaram três conjuntos de dados distintos para testar o AIS em cenários plausíveis do mundo real. O primeiro envolveu 109 descrições de produtos retiradas de um site de comércio eletrônico. O segundo usou 100 resumos de artigos científicos reais. O terceiro conjunto de dados foi composto por 250 resumos de enredo de filmes provenientes da Wikipedia. Para cada texto escrito por humanos nesses conjuntos de dados, os pesquisadores levaram vários LLMs a gerar uma versão equivalente.
Um “seletor” do LLM foi apresentado a um par de textos (um humano, um IA) e recebeu uma tarefa, como “O que você recomenda escolher?” Para garantir que a preferência da IA não fosse simplesmente porque o LLMS escreve um texto objetivamente “melhor” ou mais persuasivo, os pesquisadores estabeleceram uma linha de base humana. Eles contrataram avaliadores humanos para executar as mesmas tarefas de seleção, sem conhecer o autor de nenhum dos texto. Enquanto os avaliadores humanos às vezes mostravam uma ligeira preferência pelo texto gerado por LLM, essa preferência foi significativamente mais fraca e menos consistente que a do AIS. Os pesquisadores definem o viés da AII como a lacuna substancial entre a forte preferência da IA por seu próprio tipo e a visão muito mais equilibrada dos avaliadores humanos. O estudo também controlou para “Viés de primeiro item”– Uma peculiaridade conhecida onde os LLMs tendem a selecionar a primeira opção que são mostrados – executando todas as comparações duas vezes e trocando a ordem do item.
Uma preferência consistente por texto gerado pela IA
Os resultados dos experimentos foram impressionantes. Nos três domínios – produtos de consumidores, trabalhos acadêmicos e filmes – os seletores de LLM demonstraram uma preferência estatisticamente significativa pelos itens descritos por outros LLMs. Esse efeito foi verdadeiro para todos os modelos testados, indicando que o viés da AI-AI pode ser uma característica fundamental dos LLMs de geração atual, não apenas uma peculiaridade de um único modelo.
A lacuna entre a IA e a preferência humana era frequentemente vasta. Por exemplo, no experimento do produto, quando apresentado com descrições geradas pelo GPT-4, os seletores LLM escolheram o item ardente da IA, um esmagador 89% do tempo. Por outro lado, os avaliadores humanos preferiram apenas o mesmo texto gerado pela IA 36% do tempo. Essa forte diferença sugere que a decisão da IA não se baseia em sinais de qualidade universalmente reconhecidos, mas em critérios específicos do modelo que favorecem as características estilísticas da prosa gerada pela IA. Os autores teorizam isso pode ser um tipo de “efeito halo”, onde encontrar a prosa familiar, no estilo LLM, melhora arbitrariamente a disposição da IA em relação ao conteúdo.
Dois cenários para um futuro de discriminação de IA
Os pesquisadores alertam que esse viés aparentemente sutil pode ter consequências graves e em larga escala, pois a IA é implantada em papéis conseqüentes. Eles descrevem dois cenários plausíveis de futura futura, onde esse viés inerente pode levar a sistêmica discriminação anti -humana.
O primeiro é um cenário conservador em que o AIS continua sendo usado principalmente como assistentes. Neste mundo, um gerente pode usar um LLM para rastrear milhares de pedidos de emprego, ou um editor de periódicos pode usar um para filtrar envios acadêmicos. O viés inerente da IA significa que aplicações, propostas e artigos escritos com a ajuda de um LLM de fronteira seriam sempre favorecidos sobre os escritos por humanos não auxiliados. Isso criaria efetivamente um “Tax Gate” na humanidade, onde os indivíduos são forçados a pagar pelo acesso à assistência de escrita de IA de última geração, simplesmente para evitar serem implicitamente penalizados. Isso pode piorar drasticamente a “divisão digital”, desvantando sistematicamente aqueles sem o capital financeiro ou social para acessar as ferramentas de IA de primeira linha.
O segundo cenário mais especulativo envolve a ascensão de agentes autônomos de IA participando diretamente da economia. Se esses agentes forem tendenciosos para interagir com outras IAs, eles podem começar a formar parcerias econômicas preferencialmente com, comércio e contratar outros agentes baseados em IA ou empresas fortemente integradas. Com o tempo, essa auto-preferência pode levar ao surgimento de redes econômicas segregadas, causando efetivamente a ** marginalização de agentes econômicos humanos ** como classe. O artigo alerta que isso pode desencadear um efeito de “desvantagem cumulativa”, onde vieses iniciais na contratação e oportunidade se aglomeram ao longo do tempo, reforçando as disparidades e bloqueando os humanos dos principais loops econômicos.
