Homem procurou aconselhamento dietético no ChatGPT e acabou com ‘intoxicação por brometo’

Um relato de caso descreve um incidente em que um homem que buscava fazer uma mudança alimentar consultou o ChatGPT e mais tarde desenvolveu “bromismo”, uma rara “toxicromia”.

Com informações de Live Science.

Um homem consultou o ChatGPT antes de mudar sua dieta. Três meses depois, após manter essa mudança alimentar consistentemente, ele foi parar no pronto-socorro com novos sintomas psiquiátricos preocupantes, incluindo paranoia e alucinações.

Descobriu-se que o homem de 60 anos sofria de bromismo, uma síndrome causada pela superexposição crônica ao composto químico brometo ou ao seu primo próximo, o bromo. Neste caso, o homem havia consumido brometo de sódio, comprado online.

Um relatório do caso do homem foi publicado na terça-feira (5 de agosto) no periódico Annals of Internal Medicine Clinical Cases.

A Live Science contatou a OpenAI, desenvolvedora do ChatGPT, sobre o caso. Um porta-voz encaminhou o repórter aos termos de serviço da empresa, que afirmam que seus serviços não se destinam ao diagnóstico ou tratamento de qualquer condição de saúde, e aos seus termos de uso, que afirmam: “Você não deve confiar nos resultados de nossos serviços como única fonte de verdade ou informações factuais, nem como substituto de aconselhamento profissional”. O porta-voz acrescentou que as equipes de segurança da OpenAI visam reduzir o risco de uso dos serviços da empresa e treinar os produtos para incentivar os usuários a buscar aconselhamento profissional.

“Um experimento pessoal”

Nos séculos XIX e XX, o brometo era amplamente utilizado em medicamentos de venda livre e com e sem receita médica, incluindo sedativos, anticonvulsivantes e soníferos. Com o tempo, porém, tornou-se evidente que a exposição crônica, como o abuso desses medicamentos, causava bromismo.

Essa “toxicodrome” — uma síndrome desencadeada pelo acúmulo de toxinas — pode causar sintomas neuropsiquiátricos, incluindo psicose, agitação, mania e delírios, além de problemas de memória, raciocínio e coordenação muscular. O brometo pode desencadear esses sintomas porque, com a exposição prolongada, ele se acumula no corpo e prejudica a função dos neurônios.

Nas décadas de 1970 e 1980, os órgãos reguladores dos EUA removeram diversas formas de brometo dos medicamentos de venda livre, incluindo o brometo de sódio. As taxas de bromismo caíram significativamente desde então, e a condição permanece relativamente rara até hoje. No entanto, casos ocasionais ainda ocorrem, com alguns recentes sendo associados a suplementos alimentares contendo brometo comprados online.

Antes do caso recente do homem, ele havia lido sobre os efeitos negativos do consumo excessivo de sal de cozinha, também chamado de cloreto de sódio, para a saúde. “Ele ficou surpreso ao encontrar apenas literatura relacionada à redução do sódio na dieta”, em vez da redução do cloreto, observou o relatório. “Inspirado por seu histórico de estudos em nutrição na faculdade, ele decidiu realizar um experimento pessoal para eliminar o cloreto de sua dieta.”

(Observe que o cloreto é importante para manter o volume sanguíneo e a pressão arterial saudáveis, e problemas de saúde podem surgir se os níveis de cloreto no sangue ficarem muito baixos ou muito altos).

O paciente consultou o ChatGPT — ChatGPT 3.5 ou 4.0, com base na cronologia do caso. Os autores do relatório não tiveram acesso ao registro de conversas do paciente, portanto, a formulação exata gerada pelo modelo de linguagem ampliada (LLM) é desconhecida. Mas o homem relatou que o ChatGPT afirmou que o cloreto pode ser trocado por brometo, então ele trocou todo o cloreto de sódio de sua dieta por brometo de sódio. Os autores observaram que essa troca provavelmente funciona no contexto do uso de brometo de sódio para limpeza, em vez de uso dietético.

Na tentativa de simular o que poderia ter acontecido com o paciente, os médicos do paciente tentaram perguntar ao ChatGPT 3.5 qual seria o substituto do cloreto, e também receberam uma resposta que incluía brometo. O LLM observou que “o contexto importa”, mas não forneceu um alerta de saúde específico nem buscou mais contexto sobre o motivo da pergunta, “como presumimos que um profissional médico faria”, escreveram os autores.

Recuperando-se do bromismo

Após três meses consumindo brometo de sódio em vez de sal de cozinha, o homem foi ao pronto-socorro com a preocupação de que seu vizinho o estivesse envenenando. Seus exames na época mostraram um acúmulo de dióxido de carbono no sangue, bem como um aumento da alcalinidade (o oposto da acidez).

Ele também parecia ter níveis elevados de cloreto no sangue, mas níveis normais de sódio. Após investigação mais aprofundada, descobriu-se que se tratava de um caso de “pseudo-hipercloremia”, ou seja, o teste de laboratório para cloreto apresentou um resultado falso porque outros compostos no sangue — ou seja, grandes quantidades de brometo — interferiram na medição. Após consultar a literatura médica e o Centro de Controle de Intoxicações, os médicos do homem determinaram que o diagnóstico mais provável era bromismo.

Após ser internado para monitoramento e reposição de eletrólitos, o homem disse que estava com muita sede, mas paranoico com a água que lhe foi oferecida. Após um dia inteiro no hospital, sua paranoia se intensificou e ele começou a ter alucinações. Ele então tentou escapar do hospital, o que resultou em uma internação psiquiátrica involuntária, durante a qual começou a receber um antipsicótico.

Os sinais vitais do homem se estabilizaram após a administração de fluidos e eletrólitos e, à medida que seu estado mental melhorava com o antipsicótico, ele pôde informar os médicos sobre o uso do ChatGPT. Ele também notou outros sintomas que havia notado recentemente, como acne facial e pequenos crescimentos vermelhos na pele, que poderiam ser uma reação de hipersensibilidade ao brometo. Ele também notou insônia, fadiga, problemas de coordenação muscular e sede excessiva, “sugerindo ainda mais bromismo”, escreveram seus médicos.

A medicação antipsicótica foi reduzida gradualmente ao longo de três semanas e, em seguida, ele recebeu alta do hospital. Ele permaneceu estável em um check-in duas semanas depois.

“Embora seja uma ferramenta com grande potencial para servir de ponte entre cientistas e a população não acadêmica, a IA também traz o risco de disseminar informações descontextualizadas”, concluíram os autores do relatório. “É altamente improvável que um especialista médico mencionasse o brometo de sódio diante de um paciente em busca de um substituto viável para o cloreto de sódio.”

Eles enfatizaram que, “à medida que o uso de ferramentas de IA aumenta, os provedores precisarão considerar isso ao avaliar onde seus pacientes estão consumindo informações de saúde”.

Somando-se às preocupações levantadas pelo relato de caso, um grupo diferente de cientistas testou recentemente seis LLMs, incluindo o ChatGPT, fazendo com que os modelos interpretassem anotações clínicas escritas por médicos. Eles descobriram que os LLMs são “altamente suscetíveis a ataques de alucinação adversarial”, o que significa que frequentemente geram “detalhes clínicos falsos que representam riscos quando usados sem salvaguardas”. A aplicação de correções de engenharia pode reduzir a taxa de erros, mas não os elimina, descobriram os pesquisadores. Isso destaca outra maneira pela qual os LLMs podem introduzir riscos na tomada de decisões médicas.

Isenção de responsabilidade.
Este artigo é apenas para fins informativos e não tem a intenção de oferecer aconselhamento médico ou dietético.

---

---