Até agora, o suposto processo movido na Flórida contra o ChatGPT, atribuído ao pastor Scott Winters, não aparece amparado por registros públicos confiáveis nem por documentos judiciais fáceis de checar que confirmem que ele de fato existe. Mesmo assim, a história que vem circulando chama atenção porque aponta para uma possibilidade nova , e incômoda, na discussão sobre saúde e responsabilidade: um pastor da Flórida, identificado como Scott Winters, teria acionado a OpenAI depois de receber respostas perigosas sobre sintomas de saúde.
Pela versão que ganhou força online, Scott Winters teria perguntado ao ChatGPT se estava tudo bem após episódios recorrentes de tontura e pressão arterial instável, e o chatbot teria tratado os sintomas como algo menor durante semanas, recomendando descanso e pouca movimentação. Depois, ele teria recebido o diagnóstico de embolia pulmonar provocada por coágulos nos dois pulmões. O ponto problemático é simples: até aqui, não há registros públicos confiáveis nem documentos judiciais facilmente verificáveis que sustentem a existência desse caso específico.
Se isso vier a ser confirmado, estaríamos diante de um caso extremo de dano associado a respostas de um sistema de uso geral num contexto de saúde. Segundo a narrativa publicada, o pastor acusaria a OpenAI e o CEO Sam Altman de negligência e de exercício não autorizado da medicina, pedindo indenização financeira e até a suspensão de um suposto “ChatGPT Health” até que sua segurança fosse comprovada.
Caso um processo assim realmente exista e siga adiante, ele pode colocar à prova uma área do direito que ainda foi pouco testada: até onde vai a responsabilidade de um chatbot quando alguém segue uma orientação errada e sofre consequências graves. Por enquanto, o centro da questão é outro. A história tem sido tratada como fato em alguns textos, mesmo sem base pública sólida que a sustente.
Ainda que esse caso específico permaneça sem confirmação, o enredo acerta num ponto bem real, e cada vez mais presente: o risco de recorrer a chatbots como fonte de orientação médica, sobretudo quando a resposta soa segura , detalhada e tranquilizadora. Especialistas vêm alertando para o chamado viés de automação, aquela tendência de confiar numa resposta só porque ela parece objetiva, calma e bem embasada. Em saúde, isso fica ainda mais delicado. Ferramentas como o ChatGPT não são validadas como instrumentos médicos, e os próprios termos de uso da OpenAI dizem que o serviço não deve ser usado como aconselhamento médico.
Alguns estudos ajudam a entender por que tanta gente acaba tentada a usar esses sistemas desse jeito. Um trabalho publicado em 2023 na JMIR Medical Education encontrou 72% de acurácia diagnóstica. Outro estudo mostrou que respostas de chatbots podem ser percebidas como mais empáticas e até de melhor qualidade do que respostas dadas por médicos em certos contextos. O efeito colateral disso é bastante claro: quanto mais humana e reconfortante a resposta parece, maior a chance de o usuário relaxar demais e baixar a guarda.
E falhas em situações sensíveis não pertencem só ao campo das hipóteses. Há um exemplo documentado pela National Eating Disorders Association: o chatbot da própria entidade acabou retirado do ar depois de críticas por oferecer conselhos potencialmente nocivos .
No campo regulatório, o quadro continua meio nebuloso. A Food and Drug Administration (FDA) vem desenvolvendo regras para softwares médicos, mas modelos de uso geral como o ChatGPT ficam, em grande parte, fora desse enquadramento e, na prática, a responsabilização por danos causados por respostas automatizadas ainda está em aberto. Mesmo que esse caso continue sem confirmação, ao menos até que apareçam registros verificáveis ou a OpenAI faça comunicados oficiais, o alerta sobre usar o chatbot como triagem de sintomas continua bastante plausível. Dito de forma direta: ainda que o caso do pastor da Flórida não esteja comprovado, sintomas persistentes, dor no peito, falta de ar, tontura forte ou alterações de pressão não deveriam ser triados em conversa com chatbot, e sim avaliados por um profissional.
