Character.AI, uma empresa de IA, está encerrando o acesso aberto ao chatbot para usuários menores de 18 anos até 25 de novembro para aumentar a segurança em meio a preocupações com interações de IA com menores. A eliminação progressiva começa com um limite diário de duas horas que diminui progressivamente até zero. A empresa implementará vários métodos de verificação de idade para fazer cumprir esta restrição. Isso inclui uma ferramenta interna desenvolvida internamente e soluções de terceiros, como Persona. Nos casos em que estes métodos iniciais se revelem insuficientes, a Character.AI poderá recorrer à tecnologia de reconhecimento facial e à verificação de documentos de identidade para confirmar que os utilizadores têm pelo menos 18 anos de idade. Esta mudança política responde às contribuições recebidas dos órgãos reguladores e dos pais. Alinha-se com iniciativas em curso para mitigar os riscos para a saúde mental associados ao envolvimento de adolescentes em conversas sobre IA. Os reguladores expressaram preocupações sobre os potenciais impactos psicológicos de interações prolongadas ou não filtradas com chatbots em utilizadores jovens.
Personagem AI com problemas legais após a perda devastadora de um garoto de 14 anos
Character.AI já havia introduzido várias salvaguardas para proteger menores. Essas medidas incluíram uma ferramenta de insights parentais que oferece opções de monitoramento para os responsáveis, caracteres filtrados projetados para evitar conteúdo impróprio, restrições a diálogos românticos ou íntimos e notificações alertando os usuários sobre o tempo gasto na plataforma. Apesar destas medidas, o segmento de utilizadores com menos de 18 anos registou um declínio notável após a sua implementação. Seguindo em frente, Character.AI está desenvolvendo uma plataforma alternativa feita sob medida para adolescentes. Este novo recurso permitirá que usuários menores de 18 anos gerem vídeos, componham histórias e produzam transmissões ao vivo com personagens de IA. No entanto, excluirá qualquer forma de interação conversacional aberta para manter os limites estabelecidos para o uso do chatbot.
