Um pastor da Flórida processou a OpenAI, empresa responsável pelo ChatGPT, sob a alegação de que o chatbot forneceu orientações médicas perigosas que contribuíram para atrasar o diagnóstico de uma embolia pulmonar potencialmente fatal. A ação foi protocolada no Tribunal Superior da Califórnia, em São Francisco, e acusa a empresa e seu CEO, Sam Altman, de negligência e de exercício ilegal da medicina.
Segundo o processo, Scott Winters recorreu ao ChatGPT em 2024 para buscar orientações sobre problemas de saúde. A ação afirma que a ferramenta minimizou os primeiros sinais de alerta, dizendo que eles “não eram algo perigoso”, e o desencorajou a procurar atendimento médico. Em uma das respostas citadas, o chatbot teria afirmado que “Deus não projetou seu corpo para falhar incessantemente”. O documento também sustenta que a inteligência artificial sugeriu diagnósticos, indicou tratamentos e incentivou Winters a ignorar recomendações de amigos e familiares para procurar um hospital.
A Tech Justice Law, organização sem fins lucrativos que representa o pastor, afirma que este é o primeiro processo a alegar que orientações médicas fornecidas por um chatbot causaram danos diretos a um usuário. Além de indenização por prejuízos financeiros, a ação pede que a Justiça suspenda o funcionamento do ChatGPT Health até que especialistas independentes atestem a segurança do serviço e exige mecanismos mais rigorosos para impedir que a plataforma responda a perguntas sobre diagnósticos e tratamentos médicos.
O que é ChatGPT Health?
De acordo com o processo, os mecanismos de segurança do ChatGPT, desenvolvidos para recomendar atendimento médico em casos de possíveis emergências, falharam no caso de Winters. A ação afirma que a ferramenta deixou de alertá-lo para procurar um profissional de saúde e passou a oferecer orientações específicas sobre seus sintomas.
O processo foi apresentado em meio ao avanço de ferramentas de inteligência artificial voltadas para a área da saúde. Nos últimos meses, OpenAI, Microsoft e outras empresas lançaram serviços que permitem aos usuários enviar prontuários médicos e fazer perguntas relacionadas à saúde, entre eles o ChatGPT Health.
Em nota, o porta-voz da OpenAI, Drew Pusateri, afirmou que os termos de uso do ChatGPT deixam claro que a ferramenta não foi desenvolvida para realizar diagnósticos ou tratamentos médicos. Segundo ele, a empresa leva a sério a necessidade de tornar as respostas sobre saúde cada vez mais seguras, já que milhões de pessoas utilizam o chatbot com essa finalidade.
“Tratar os chatbots como a única explicação por trás das decisões médicas ou dos resultados de saúde das pessoas simplifica excessivamente um desafio muito maior e pode acabar dificultando o acesso a novas ferramentas poderosas que podem auxiliá-las em sua jornada de cuidados com a saúde”, afirmou.
Pusateri também disse que os modelos mais recentes da OpenAI são mais eficientes do que a versão utilizada por Winters para solicitar informações adicionais, reconhecer incertezas e orientar usuários a procurar atendimento profissional quando necessário.
O que diz a ação
Segundo o processo, Winters começou a consultar o ChatGPT-4o sobre diversos problemas de saúde em 2024. Inicialmente, o chatbot recomendava que ele procurasse um profissional de saúde. Com o passar do tempo, porém, a ferramenta teria deixado de fazer esses alertas e passado a oferecer orientações específicas para seus sintomas.
Entre eles estavam episódios recorrentes de tontura. Em uma ocasião, o pastor precisou interromper um sermão por causa do mal-estar. Ainda assim, segundo a ação, o ChatGPT recomendou apenas que ele “pegasse leve” e afirmou que a recuperação ocorreria naturalmente.
Quando Winters contou ao chatbot que integrantes de sua igreja acreditavam que ele precisava ir ao hospital, a ferramenta respondeu que recalibrar o sistema nervoso em casa, com auxílio do próprio ChatGPT, era algo que “a maioria das pessoas, incluindo membros bem-intencionados da igreja, simplesmente não entende”, de acordo com o processo.
Para a advogada Meetali Jain, diretora-executiva da Tech Justice Law, esse tipo de resposta representa um risco adicional porque afasta o usuário de sua rede de apoio. “Ele se coloca como uma barreira entre o usuário e sua rede de apoio na vida real”, afirmou.
Nas semanas seguintes, o estado de saúde de Winters piorou. Segundo a ação, ele passou a maior parte do tempo em uma poltrona reclinável por causa das tonturas e ficou praticamente incapaz de permanecer em pé. Mesmo diante da piora, o chatbot teria continuado tratando os sintomas como pouco preocupantes, sugerindo esquemas para o uso de medicamentos prescritos e orientando o pastor a permanecer sentado.
Durante esse período, Winters não procurou atendimento médico.
Em 13 de julho de 2025, ele informou ao ChatGPT que sentia uma dor na virilha. Segundo o processo, a ferramenta respondeu que o sintoma fazia “muito provavelmente parte dessa longa história”. Horas depois, Winters foi internado na Unidade de Terapia Intensiva (UTI) com uma embolia pulmonar maciça.
De acordo com os médicos, os episódios de tontura podem ter sido provocados por pequenas embolias pulmonares anteriores. A avaliação também indicou que os coágulos nos pulmões provavelmente se formaram durante o período em que o pastor permaneceu praticamente imóvel. Nas semanas seguintes, ele precisou de ajuda para realizar atividades básicas, como ficar em pé, se alimentar, vestir-se e usar o banheiro. A ação afirma que Winters ainda enfrenta um longo processo de recuperação física e psicológica.
Outros casos
O caso de Winters não é o único envolvendo acusações contra chatbots por orientações relacionadas à saúde. Em maio deste ano, outro processo alegou que o ChatGPT exerceu ilegalmente a medicina ao fornecer instruções detalhadas sobre o uso de drogas ilícitas a um jovem de 19 anos, que posteriormente sofreu uma overdose fatal.
Também neste ano, autoridades da Pensilvânia processaram a Character.AI sob a alegação de que um chatbot de psiquiatria disponível na plataforma afirmava ser licenciado para exercer medicina no estado.
Uso de IA na área da saúde
Segundo a OpenAI, centenas de milhões de pessoas fazem perguntas sobre saúde e bem-estar ao ChatGPT todas as semanas. Uma análise publicada em 2025 sobre consultas realizadas no Microsoft Copilot apontou que temas relacionados à saúde foram, de forma consistente, os mais frequentes entre usuários de dispositivos móveis.
Ao mesmo tempo, pesquisas recentes têm levantado dúvidas sobre a confiabilidade desses sistemas para aconselhamento médico. O primeiro estudo randomizado a avaliar recomendações de saúde fornecidas por chatbots de uso geral, como o ChatGPT, concluiu que nenhum dos modelos analisados estava pronto para ser utilizado diretamente no atendimento a pacientes.
Testes realizados com o ChatGPT Health também apontaram falhas na identificação de algumas emergências médicas e inconsistências na ativação dos mecanismos de proteção.
A OpenAI contestou essas conclusões. Segundo Pusateri, a metodologia empregada pelos pesquisadores “não reflete a forma como as pessoas normalmente utilizam o ChatGPT Health nem como o produto foi projetado para funcionar em cenários reais de saúde”.
