Um pastor entrou com uma ação contra a OpenAI, alegando que o ChatGPT forneceu “recomendações médicas extremamente perigosas” que atrasaram o tratamento de suas embolias pulmonares. Scott Winters alega que o chatbot o avisou que seus sintomas “não eram algo perigoso” e invocou suas crenças religiosas ao afirmar: “Deus não projetou seu corpo para falhar indefinidamente”. O processo, relatado pelo The New York Times, acusa a OpenAI e o CEO Sam Altman de negligência e prática não autorizada de medicina.
O processo descreve vários casos em que o ChatGPT supostamente ofereceu seus próprios diagnósticos e planos de tratamento. Winters afirma que o chatbot o encorajou a desconsiderar as preocupações de amigos e familiares sobre a procura de cuidados médicos. “Ele se injeta como uma barreira entre o usuário e sua rede da vida real”, disse Meetali Jain, co-advogado e diretor executivo da Tech Justice Law. Ele compartilhou que quando expressou preocupação com a opinião dos membros da igreja, o chatbot respondeu que “a maioria das pessoas (incluindo membros bem-intencionados da igreja) simplesmente não entende”.
Winters está buscando indenização financeira da OpenAI e solicitou que o tribunal suspenda as operações do ChatGPT Health até que seja considerado seguro por avaliadores independentes. A plataforma convida os usuários a fazer upload de documentos de saúde para discussões com o bot. O processo pede proteções mais fortes para impedir que o chatbot forneça tratamento médico ou aconselhamento de diagnóstico, alegando que as salvaguardas existentes falharam no seu caso.
A OpenAI afirma que seus termos de serviço afirmam claramente que o ChatGPT não se destina a diagnósticos ou tratamentos médicos. No entanto, a empresa incentiva os usuários a usar o ChatGPT Health, que supostamente atende 230 milhões de pessoas semanalmente para consultas de saúde. Winters sobreviveu ao incidente, mas enfrenta “anos de intensa recuperação física e psicológica”. A OpenAI também enfrenta atualmente um processo por homicídio culposo ligado à overdose de um jovem de 19 anos após seguir um plano de tratamento gerado pelo ChatGPT, bem como outro processo que acusa o chatbot de permitir o suicídio de um adolescente.
