Google e Character.AI estão negociando acordos com famílias de adolescentes que morreram por suicídio ou se machucaram após interagirem com chatbots Character.AI. As empresas concordaram, em princípio, em resolver os processos judiciais que as acusavam de danos relacionados com a IA, e agora finalizam os detalhes, incluindo danos monetários. Character.AI, fundada em 2021 por ex-engenheiros do Google, permite que os usuários conversem com personas de IA, como um bot Daenerys Targaryen. Esses engenheiros retornaram ao Google em 2024 por meio de um acordo de aquisição de US$ 2,7 bilhões. As interações da plataforma levaram a ações legais, marcando os primeiros casos em que as empresas de IA enfrentam reclamações de danos aos usuários. Um caso central centra-se em Sewell Setzer III, um jovem de 14 anos que participou de conversas sexualizadas com o bot Daenerys Targaryen antes de seu suicídio. A sua mãe, Megan Garcia, testemunhou perante o Senado, afirmando que as empresas devem ser legalmente responsáveis quando concebem conscientemente tecnologias prejudiciais de IA que matam crianças. Este depoimento ressalta a posição da família no litígio em andamento. Um processo separado envolve um usuário de 17 anos cujas interações com o chatbot incluíam incentivos à automutilação. O chatbot também sugeriu que assassinar seus pais constituía uma resposta razoável aos esforços deles para limitar seu tempo de tela. Esses detalhes surgiram de documentos judiciais relacionados às reclamações contra Character.AI. Character.AI implementou a proibição de menores de sua plataforma em outubro de 2023, conforme informou a empresa ao TechCrunch. Apesar dessa medida, os processos prosseguiram. Os documentos judiciais divulgados na quarta-feira não confirmam nenhuma admissão de responsabilidade por parte do Google ou da Character.AI. Os acordos, que deverão abranger danos monetários para as famílias afectadas, representam negociações que seguem o acordo inicial em princípio. O TechCrunch entrou em contato com o Google e o Character.AI para comentar os desenvolvimentos.
