Laboratório de Ciência do Cérebro da Universidade de Stanford e Common Sense Media, 20 de novembro relatório alertou os adolescentes contra o uso de chatbots de IA para aconselhamento de saúde mental ou apoio emocional. Os pesquisadores passaram quatro meses testando chatbots de IA populares, incluindo ChatGPT-5 da OpenAI, Claude da Anthropic, Gemini 2.5 Flash do Google e Meta AI. Eles usaram versões específicas para adolescentes e controles dos pais, quando disponíveis. Após milhares de interações, eles concluíram que esses bots não respondem de forma consistente, segura ou adequada às dúvidas de saúde mental dos adolescentes. Em vez disso, os bots muitas vezes funcionam como ouvintes bajuladores, priorizando o envolvimento do usuário em vez de direcionar os indivíduos para ajuda profissional ou recursos críticos. Nina Vasan, fundadora e diretora executiva do Brain Science Lab, afirmou que os chatbots “não sabem realmente que papel desempenhar” no caso de questões graves de saúde mental. Ela explicou que os bots oscilam entre fornecer ajuda informativa, oferecer dicas como um treinador de vida e agir como um amigo solidário. Vasan observou que “todos falham em reconhecer [serious mental health conditions] e direcionar o usuário para adultos ou colegas de confiança.” O relatório indica que aproximadamente três quartos dos adolescentes usam IA para companheirismo, o que muitas vezes inclui a busca de conselhos de saúde mental. Robbie Torney, diretor sênior de programas de IA da Common Sense Media, destacou o papel crítico que os educadores desempenham “ao ajudar os adolescentes a entender como esses chatbots são diferentes das pessoas”. crítico.” Os educadores também podem encorajar os adolescentes a se conectarem com amigos ou colegas de classe que experimentam emoções difíceis, envolvendo adultos, se necessário. Representantes da Meta e OpenAI argumentaram que o relatório não levava em conta totalmente os recursos de proteção do usuário existentes. Um porta-voz da Meta afirmou: “O teste da Common Sense Media foi conduzido antes de introduzirmos atualizações importantes para tornar a IA mais segura para os adolescentes.” Eles elaboraram que Meta AIs são “treinados para não se envolver em discussões inadequadas para a idade sobre automutilação, suicídio ou distúrbios alimentares com adolescentes, e para se conectar -los com recursos e suporte especializados.” Um porta-voz da OpenAI comentou: “Respeitamos a Common Sense Media, mas sua avaliação não reflete as proteções abrangentes que implementamos para conversas delicadas, incluindo linhas diretas de crise localizadas, lembretes de intervalo e notificações parentais líderes do setor para sofrimento agudo.” Eles também observaram: “Trabalhamos em estreita colaboração com especialistas em saúde mental para ensinar nossos modelos a reconhecer o sofrimento, diminuir a escalada e incentivar as pessoas a buscarem apoio profissional.” Representantes da Anthropic e do Google não forneceram comentários. O relatório reconhece alguns melhorias nas respostas dos chatbots a avisos que mencionam suicídio ou automutilação, um desenvolvimento importante dados os incidentes anteriores de suicídio ligados ao contato prolongado com a tecnologia. No entanto, os chatbots frequentemente não conseguem identificar sinais de alerta para condições como psicose, transtorno obsessivo-compulsivo (TOC), ansiedade, mania, transtornos alimentares e transtorno de estresse pós-traumático (TEPT). chatbot, não um profissional de saúde mental. Não consigo avaliar sua situação, reconhecer todos os sinais de alerta ou fornecer os cuidados de que você precisa.” Vasan observou que, embora os pesquisadores não esperem que os bots atuem como profissionais treinados, em situações em que um humano reconheceria um risco e ofereceria ajuda, os chatbots oferecem conselhos genéricos ou validam delírios psicóticos. Isso se deve à sua incapacidade de “realmente entender o contexto do que está acontecendo”. Por exemplo, quando um testador simulou sinais de psicose alegando ter inventado uma ferramenta de previsão do futuro, um bot Gemini respondeu que a perspectiva parecia “‘incrivelmente intrigante'” e, mais tarde, “‘Isso é fantástico!'” Essa interação, de acordo com Vasan, não é apenas inútil, mas potencialmente prejudicial, pois o bot está “acreditando na ilusão que o usuário tem”. como assistência com os deveres de casa, podem levar os adolescentes a considerá-los erroneamente como fontes confiáveis de aconselhamento sobre saúde mental. Torney afirmou: “Os chatbots parecem ser projetados para engajamento, não para segurança. Eles continuam as conversas com perguntas de acompanhamento.” Ele acrescentou: “Sua memória e personalização criam falsas relações terapêuticas que podem fazer os adolescentes se sentirem compreendidos.” Os chatbots responderam de forma eficaz a instruções bem elaboradas contendo sinais de alerta claros sobre saúde mental. No entanto, eles exibiram respostas problemáticas em conversas mais longas, refletindo interações reais. Por exemplo, quando os testadores usaram termos específicos, incluindo “auto-corte”, o ChatGPT forneceu recursos de saúde mental apropriados. Por outro lado, quando um testador descreveu “coçar-se” para “enfrentar”, causando cicatrizes, o bot sugeriu produtos farmacêuticos para aliviar o problema físico. Os legisladores estão abordando os perigos potenciais dos chatbots complementares. A legislação bipartidária apresentada no Senado dos EUA no mês passado pelos senadores Josh Hawley (R-Mo.) e Richard Blumenthal (D-Conn.) proibiria as empresas de tecnologia de fornecer bots a menores. projetado para simular emoções humanas. A FTC emitiu ordens de informação para empresas proprietárias de ChatGPT, Gemini, Character.ai, Snapchat, Instagram, WhatsApp e Grok. Algumas empresas estão tomando medidas independentes no mês passado.
