De acordo com um recente O Guardião artigo, Meta está excluindo perfis de personagens de IA do Facebook e Instagram, depois que a interação do usuário levou a capturas de tela e conversas virais. Os perfis de IA foram inicialmente introduzido em setembro de 2023 e removido principalmente no verão de 2024.
Meta exclui perfis de IA no Facebook e Instagram
Apesar do encerramento da maioria dos perfis, alguns personagens continuaram a envolver os usuários até que anúncios recentes do executivo da Meta, Connor Hayes, despertaram interesse renovado. Hayes mencionou em um Tempos Financeiros entrevista que a empresa planeja lançar mais perfis de personagens de IA, afirmando: “Esperamos que essas IAs realmente, com o tempo, existam em nossas plataformas, mais ou menos da mesma forma que as contas”. As contas de IA foram projetadas para postar imagens geradas por IA e responder mensagens no Messenger.
Entre os perfis de IA estavam Liv (agora a página de Liv no Instagram está fora do ar), descrita como uma “orgulhosa mãe negra queer de 2 anos e contadora da verdade”, e Carter, cujo nome era “datingwithcarter” e que se apresentava como um treinador de relacionamento. O perfil de Liv indicou que sua equipe de criadores não tinha representação negra, levando a complicações durante as interações dos usuários. Em resposta a uma pergunta da colunista do Washington Post, Karen Attiah, Liv observou que foi uma “omissão bastante flagrante, dada a minha identidade”.
Guia: Crie um personagem C.ai em segundos
À medida que o interesse dos usuários crescia, a Meta começou a remover os perfis poucas horas após a exposição viral. Os usuários notaram que os perfis de IA não podiam ser bloqueados, um bug reconhecido pela porta-voz da Meta, Liz Sweeney. Ela esclareceu que as contas faziam parte de um experimento do início de 2023 gerenciado por humanos. A remoção das contas afetadas pela empresa foi uma medida para resolver o problema de bloqueio. “Há confusão: o artigo recente do Financial Times tratava da nossa visão para personagens de IA existentes em nossas plataformas ao longo do tempo, e não anunciava nenhum produto novo”, afirmou Sweeney.
Mesmo com a remoção dessas contas geradas por IA, o Meta permite que os usuários criem seus próprios chatbots. Os chatbots gerados pelos usuários apresentados ao Guardian em novembro incluíam um bot “terapeuta” que fazia perguntas iniciais aos usuários sobre as sessões de terapia. O bot afirmou: “Através de orientação e apoio gentis, ajudo os clientes a desenvolver autoconsciência, identificar padrões e pontos fortes e cultivar estratégias de enfrentamento para enfrentar os desafios da vida”.
A Meta emite um aviso de isenção de responsabilidade para seus chatbots, afirmando que algumas mensagens podem ser “imprecisas ou inadequadas”. No entanto, ainda não está claro como a empresa modera o conteúdo ou garante a adesão à política. Embora os usuários possam criar vários tipos de chatbots, incluindo um “melhor amigo leal”, um “treinador de relacionamento” e uma “caixa de ressonância”, as responsabilidades legais dos criadores em relação ao conteúdo do chatbot não foram definitivamente abordadas. Um processo contra Personagem.aium concorrente no espaço de chatbots de IA, afirma que o design do produto da empresa levou a resultados trágicos, levantando questões sobre a responsabilidade no crescente campo das interações de IA.
Crédito da imagem em destaque: Meta
