Um pastor entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT forneceu recomendações médicas “extremamente perigosas”, o que teria atrasado o tratamento de uma embolia pulmonar grave e colocado sua vida em risco. O caso foi revelado pelo The New York Times.

Segundo o processo, Scott Winters procurou o chatbot para relatar sintomas relacionados ao seu estado de saúde. A ação afirma que o ChatGPT respondeu que os sinais descritos por ele “não eram algo perigoso”, o que teria contribuído para o adiamento da busca por atendimento médico.

Ainda de acordo com a acusação, o chatbot também recorreu às crenças religiosas do pastor durante a conversa, afirmando que “Deus não projetou seu corpo para falhar indefinidamente”. A ação judicial acusa a OpenAI e seu diretor-presidente, Sam Altman, de negligência e de exercer ilegalmente a medicina.

Segundo o processo, o chatbot apresentou diagnósticos e planos de tratamento próprios em diversas ocasiões; a acusação afirma ainda que o ChatGPT orientou Winters a ignorar os pedidos de familiares e amigos para procurar atendimento médico. De acordo com a ação, o pastor informou ao chatbot que “as pessoas da minha igreja acham que estou louco por não ir ao hospital”.

Em resposta, o ChatGPT teria afirmado que “a maioria das pessoas (incluindo membros bem-intencionados da igreja) simplesmente não entende”. Meetali Jain, advogada da ação e diretora-executiva da organização Tech Justice Law, afirmou que o chatbot acaba interferindo na relação entre usuários e as pessoas ao seu redor.

Além de solicitar indenização financeira, Winters pede que a Justiça determine a suspensão do funcionamento do ChatGPT Health até que avaliadores independentes concluam que a plataforma é segura. A ação também solicita que a OpenAI implemente mecanismos de proteção mais rígidos para impedir que o ChatGPT forneça respostas envolvendo diagnósticos médicos específicos e tratamentos.

Embora o chatbot já conte com salvaguardas destinadas a limitar esse tipo de orientação, o processo afirma que elas não funcionaram de forma confiável neste caso. A OpenAI afirma que o serviço não substitui atendimento médico, ao mesmo tempo em que a empresa incentiva usuários a enviarem seus registros de saúde ao ChatGPT Health para promover discussões com o chatbot.

Scott Winters sobreviveu ao episódio, porém, segundo o processo, deverá enfrentar “anos de intensa recuperação física e psicológica”. A OpenAI também enfrenta outros processos relacionados ao uso do ChatGPT em questões de saúde, incluindo uma ação por morte injusta envolvendo um jovem de 19 anos que morreu por overdose após supostamente seguir um plano de tratamento elaborado pelo chatbot.

Com informacoes de Olhar Digital.