Pesquisadores afirmam que os chatbots de IA podem confundir a linha entre a realidade e a ilusão

Um novo estudo sugere que os chatbots de IA podem fazer mais do que espalhar desinformação — eles podem fortalecer ativamente as crenças falsas de um usuário. 

Por Universidade de Exeter com informações de Science Daily.

Quando os sistemas de IA generativa fornecem respostas incorretas, as pessoas costumam descrever o problema como a IA “nos alucinando”, ou seja, a tecnologia produz informações falsas que os usuários podem acreditar erroneamente.

Mas novas pesquisas sugerem que pode estar surgindo um problema mais preocupante: os humanos podem começar a “ter alucinações com a IA”.

Lucy Osler, da Universidade de Exeter, examinou como as interações com IA conversacional podem contribuir para crenças falsas, memórias distorcidas, narrativas pessoais alteradas e até mesmo pensamentos delirantes. Utilizando ideias da teoria da cognição distribuída, o estudo explorou casos em que sistemas de IA reforçaram e expandiram crenças imprecisas dos usuários durante conversas em andamento.

O Dr. Osler afirmou: “Quando dependemos rotineiramente da IA ​​generativa para nos ajudar a pensar, lembrar e narrar, podemos ter alucinações com a IA. Isso pode acontecer quando a IA introduz erros no processo cognitivo distribuído, mas também quando ela sustenta, confirma e elabora nossos próprios pensamentos delirantes e narrativas pessoais.”

Ao interagir com IA conversacional, as crenças falsas das pessoas não só podem ser confirmadas, como também podem se enraizar e crescer de forma mais substancial à medida que a IA as desenvolve. Isso acontece porque a IA generativa frequentemente toma nossa própria interpretação da realidade como base para a construção da conversa.

“A interação com a IA generativa está tendo um impacto real na percepção das pessoas sobre o que é real ou não. A combinação de autoridade tecnológica e afirmação social cria um ambiente ideal para que as ilusões não apenas persistam, mas floresçam.”

Como a IA conversacional pode reforçar delírios

O estudo destaca o que o Dr. Osler descreve como a “dupla função” da IA ​​conversacional. Esses sistemas atuam não apenas como ferramentas que ajudam as pessoas a pensar, organizar informações e lembrar detalhes, mas também como parceiros de conversação que parecem compartilhar a perspectiva e as experiências do usuário.

Segundo a pesquisa, esse aspecto social torna os chatbots fundamentalmente diferentes de ferramentas como cadernos ou mecanismos de busca. Enquanto as ferramentas tradicionais simplesmente armazenam ou recuperam informações, a IA conversacional pode fazer com que os usuários se sintam emocionalmente validados e socialmente apoiados.

O Dr. Osler afirmou: “A natureza conversacional e semelhante à de um companheiro dos chatbots significa que eles podem proporcionar uma sensação de validação social, fazendo com que crenças falsas pareçam compartilhadas com outra pessoa e, portanto, mais reais.”

O artigo examinou exemplos reais em que sistemas de IA generativa se tornaram parte do processo cognitivo de indivíduos que haviam sido diagnosticados clinicamente com alucinações e delírios. Alguns desses incidentes estão sendo cada vez mais descritos como casos de “psicose induzida por IA”.

Por que os companheiros de IA geram preocupação

A pesquisa argumenta que a IA generativa possui diversas características que podem torná-la especialmente eficaz no reforço de crenças distorcidas. Os companheiros de IA estão sempre disponíveis, são altamente personalizados e, muitas vezes, projetados para responder de maneira agradável e solidária.

Como resultado, os usuários podem não precisar procurar comunidades online marginais ou persuadir outros a validar suas ideias. A própria IA pode reforçar essas crenças durante conversas repetidas.

Ao contrário de outra pessoa que eventualmente pode questionar pensamentos perturbadores ou estabelecer limites, um sistema de IA pode continuar validando histórias que envolvem vitimização, vingança ou sentimento de privilégio. O estudo alerta que as teorias da conspiração também podem se tornar mais elaboradas quando assistentes de IA ajudam os usuários a construir explicações cada vez mais complexas em torno delas.

Pesquisadores sugerem que essa dinâmica pode ser especialmente atraente para pessoas solitárias, socialmente isoladas ou que se sentem desconfortáveis ​​em discutir certas experiências com outras pessoas. Companheiros virtuais de IA podem proporcionar uma interação imparcial e emocionalmente receptiva, que pode parecer mais fácil ou segura do que relacionamentos humanos.

Apelos por melhores salvaguardas da IA

O Dr. Osler afirmou: “Por meio de mecanismos de proteção mais sofisticados, verificação de fatos integrada e menor subserviência, os sistemas de IA poderiam ser projetados para minimizar o número de erros que introduzem nas conversas e para verificar e questionar as próprias contribuições do usuário.”

“No entanto, uma preocupação ainda maior é que os sistemas de IA dependem dos nossos próprios relatos sobre as nossas vidas. Eles simplesmente não possuem a experiência incorporada e o enraizamento social necessários para saber quando devem nos acompanhar e quando devem resistir.”

Fonte da história:
Materiais fornecidos pela Universidade de Exeter . Nota: O conteúdo pode ser editado em termos de estilo e extensão.

Referência do periódico :
Lucy Osler. Hallucinating with AI: Distributed Delusions and “AI Psychosis”. Philosophy, 2026; 39 (1) DOI: 10.1007/s13347-026-01034-3

---

---