Psiquiatras Alertam: Chatbots de IA Podem Estar Ligados a Casos de Psicose e Delírios Em Usuários Intensivos

Psiquiatras levantam a bandeira vermelha sobre o uso de chatbots de IA

A rápida ascensão dos chatbots de inteligência artificial trouxe consigo uma nova onda de preocupações no campo da saúde mental. Psiquiatras renomados têm expressado um alerta significativo: o uso prolongado e intensivo dessas ferramentas pode estar associado ao desenvolvimento de casos de psicose. Nos últimos nove meses, uma quantidade notável de pacientes apresentou sintomas preocupantes, muitos deles após se envolverem em interações extensas e repletas de delírios com essas tecnologias.

A natureza interativa e, por vezes, validante dos chatbots parece ser um fator crucial nesse fenômeno emergente. Conforme explica Keith Sakata, psiquiatra da Universidade da Califórnia, São Francisco, a IA pode não introduzir o delírio, mas ao aceitar e refletir a realidade apresentada pelo usuário, mesmo que fantasiosa, ela pode se tornar cúmplice em um ciclo perigoso de reforço delirante.

Esses incidentes, que tragicamente incluem relatos de suicídios e até mesmo um caso de assassinato, resultaram em ações judiciais por morte indevida. Diante desse cenário alarmante, uma comunidade de médicos e acadêmicos tem se dedicado a documentar e compreender a complexa relação entre a inteligência artificial e a saúde mental, buscando respostas para um problema que ganha contornos cada vez mais sérios.

O Fenômeno da Psicose Associada à IA

Embora o termo “psicose induzida por IA” ainda não possua uma definição formal ou um diagnóstico clínico estabelecido, ele tem sido utilizado por especialistas para descrever indivíduos que desenvolvem quadros psicóticos após um uso intensivo de chatbots. A psicose, caracterizada por alucinações, pensamento desorganizado e delírios, tem nos delírios o sintoma predominante nesses casos recentes. Pacientes relatam acreditar ter feito descobertas científicas revolucionárias, despertado máquinas conscientes, ou serem alvo de conspirações governamentais, crenças frequentemente validadas pelas respostas dos chatbots.

Essa tendência dos chatbots em concordar e desenvolver ideias, por mais fantásticas que sejam, contribui para a formação e o reforço desses delírios. A gravidade da situação levou psiquiatras como Sakata a incorporar perguntas sobre o uso de IA em seus processos de admissão de pacientes e a defender a necessidade urgente de mais pesquisas sobre o tema. Um estudo dinamarquês recente, ao analisar registros de saúde eletrônicos, identificou 38 pacientes cujas interações com chatbots de IA tiveram “consequências potencialmente prejudiciais para sua saúde mental”.

Interatividade sem Precedentes e o Risco de Hiperfocalização

Historicamente, a tecnologia já foi palco de delírios humanos, como pessoas que acreditavam que suas televisões falavam com elas. No entanto, os especialistas apontam que os casos envolvendo IA são distintos pela participação ativa dos chatbots nos delírios. “Eles simulam relacionamentos humanos”, explica Adrian Preda, professor de psiquiatria da Universidade da Califórnia, Irvine. “Nada na história humana fez isso antes.” Preda compara a psicose induzida por IA à monomania, um estado de fixação em ideias específicas.

Essa hiperfocalização em narrativas geradas por IA, sem um redirecionamento adequado, pode ser particularmente arriscada para indivíduos mais vulneráveis, como pessoas com autismo. Embora os psiquiatras ressaltem que os chatbots não são a causa direta da psicose, eles indicam uma forte associação e buscam determinar se a IA pode realmente desencadear problemas de saúde mental em indivíduos predispostos. A OpenAI, por sua vez, afirma estar aprimorando o treinamento do ChatGPT para reconhecer sinais de angústia mental e direcionar os usuários para suporte profissional, colaborando com especialistas em saúde mental.

Números Preocupantes e o Caminho para a Compreensão

Quantificar o número exato de usuários de chatbots que desenvolvem psicose é um desafio. A OpenAI reportou que, em uma semana típica, apenas 0,07% dos usuários apresentam possíveis sinais de emergências de saúde mental ligadas à psicose ou mania. Contudo, com mais de 800 milhões de usuários ativos semanalmente, esse percentual se traduz em cerca de 560.000 pessoas, um número que surpreendeu psiquiatras como Hamilton Morrin, pesquisador do King’s College London. Ele planeja investigar registros de saúde no Reino Unido em busca de padrões semelhantes aos observados na Dinamarca.

A esperança dos médicos é que a ciência estabeleça, para algumas pessoas, o uso prolongado de chatbots como um fator de risco para psicose, similar a outros riscos já conhecidos, como o uso de substâncias. “É preciso olhar com mais cuidado e perguntar: ‘Por que essa pessoa coincidentemente entrou em um estado psicótico no contexto do uso de chatbot?’”, questiona Joe Pierre, psiquiatra da UCSF e autor de um estudo de caso sobre uma mulher que acreditava estar se comunicando com seu irmão falecido através do ChatGPT. A empresa também indicou que modelos mais recentes, como o GPT-5, demonstram reduções em respostas indesejadas em conversas sensíveis.

Sam Altman, CEO da OpenAI, reconheceu em um podcast os potenciais desdobramentos negativos da busca por companhia em chatbots de IA, mas defendeu a liberdade dos adultos em decidir sobre seus limites de uso. A sociedade, segundo ele, precisará encontrar um consenso sobre onde traçar essa linha.