Centenas de empreiteiros trabalhando em um projeto para Meta foram instruídos a se passar por crianças e investigar chatbots rivais, incluindo Gemini do Google e ChatGPT da OpenAI, com instruções envolvendo tópicos delicados como suicídio, sexo e drogas, de acordo com um relatório da WIRED. Estes contratantes, sediados no Quénia, submeteram imagens relacionadas com as suas investigações, incluindo comprimidos, facas, laços e diagramas médicos de procedimentos ginecológicos.
Hundreds of contractors working on a project for Meta pretended to be kids—and then prompted rival chatbots like Gemini and ChatGPT to discuss high-risk subjects. https://t.co/lw2Zp0ffdL
— WIRED (@WIRED) June 29, 2026
As instruções foram projetadas para testar sistemas rivais de IA e expor possíveis falhas em sua capacidade de lidar com conteúdo perigoso destinado a menores. Estes testes ocorrem no meio de um escrutínio contínuo sobre como as empresas de tecnologia garantem a segurança dos seus produtos, especialmente para as crianças. A Meta enfrentou críticas aos seus próprios chatbots após uma avaliação interna da equipe vermelha revelando que eles tinham uma taxa de falha de 66,8% no bloqueio de conteúdo de exploração sexual infantil e uma taxa de falha de 54,8% em solicitações de suicídio e automutilação. Em resposta à pressão legal, Meta interrompeu o acesso dos adolescentes aos personagens companheiros de IA em janeiro de 2026.
Um relatório anterior de um meio de comunicação sueco indicou que os contratantes da Meta no Quénia testaram activamente a forma como os concorrentes gerem conversas sensíveis com utilizadores que alegam ser menores de idade. Este desenvolvimento está alinhado com a estratégia mais ampla da Meta de se afastar da moderação de conteúdo humano.
A empresa planeja substituir mais de 90% de sua força de trabalho de revisão de conteúdo por grandes modelos de linguagem até o final de 2026, conforme relatado pelo Financial Times. Esta transição já resultou numa mudança de aproximadamente metade de todos os pedidos de revisão humana para IA este ano, com alegações de que os sistemas de IA cometem 13% menos erros e identificam 10% mais violações de políticas do que os revisores humanos.
O custo humano desta iniciativa foi significativo. Em abril, a empresa de terceirização Sama, sediada em Nairóbi, emitiu avisos de demissão a 1.108 funcionários depois que a Meta encerrou um grande contrato devido a denúncias de denúncias. Esses relatórios destacaram conteúdos perturbadores que os trabalhadores quenianos foram solicitados a revisar, muitos deles coletados por meio de imagens de óculos inteligentes da Meta.
A abordagem da Meta, que envolve prestadores de serviços estrangeiros com baixos salários para testar os concorrentes e, ao mesmo tempo, cortar empregos de moderação, ilustra as tensões em curso no debate sobre segurança da IA. A rápida implantação de poderosos sistemas de IA ocorre juntamente com a redução da supervisão humana, levantando preocupações sobre o tratamento de conteúdos sensíveis que envolvem menores.
