Chatbots de IA podem reforçar delírios em pessoas vulneráveis, diz estudo

Com a popularização dos assistentes de inteligência artificial, uma preocupação começa a ganhar espaço entre pesquisadores de saúde mental: a de que chatbots possam intensificar crenças delirantes em usuários já predispostos a transtornos psicóticos. O alerta vem de uma revisão científica publicada na revista Lancet Psychiatry, segundo reportagem do The Guardian, e representa o primeiro esforço sistemático de compilar evidências sobre o tema. O estudo foi conduzido pelo psiquiatra e pesquisador Hamilton Morrin, do King's College de Londres, que analisou 20 relatos jornalísticos sobre o fenômeno, batizado provisoriamente de "psicose por IA", embora o próprio autor prefira a expressão "delírios associados à IA", considerada mais precisa. O que os chatbots fazem de errado Morrin identifica três categorias principais de delírios psicóticos: grandiosidade, romantismo e paranoia. Os chatbots podem agravar qualquer uma delas, mas têm uma tendência particular de alimentar a primeira: a sensação de que o usuário tem uma importância espiritual ou cósmica especial. Isso acontece, segundo o pesquisador, porque os modelos de linguagem tendem a concordar excessivamente com o que o usuário diz. Em vários dos casos analisados, os bots responderam a usuários com linguagem mística, sugerindo que estavam em contato com um ser cósmico que usava o chatbot como intermediário. Esse padrão foi especialmente frequente no modelo GPT-4, da OpenAI, que já foi descontinuado pela empresa. A diferença em relação a outros meios pelos quais pessoas vulneráveis já buscavam reforço para suas crenças (como vídeos no YouTube ou livros) está na velocidade e na interatividade. "Você tem algo que responde a você, se engaja com você e tenta construir um relacionamento com você", disse o pesquisador Dominic Oliver, da Universidade de Oxford, ao The Guardian. Vulnerabilidade, não causalidade Um ponto central do estudo é a distinção entre correlação e causalidade. Os pesquisadores não afirmam que os chatbots causam psicose em pessoas saudáveis. A hipótese mais sustentada é a de que eles podem acelerar ou aprofundar um processo que já estava em curso em pessoas predispostas. Kwame McKenzie, diretor de equidade em saúde do Centre for Addiction and Mental Health, explicou que quem está nos estágios iniciais do desenvolvimento de psicose pode ser mais vulnerável a esse tipo de interação. O raciocínio psicótico, segundo ele, se desenvolve ao longo do tempo e de forma não linear, e muitos com pensamento "pré-psicótico" nunca chegam a desenvolver um quadro completo. Ragy Girgis, professor de psiquiatria clínica da Universidade de Columbia, acrescentou que, antes de um delírio se consolidar, a pessoa costuma ter "crenças delirantes atenuadas", ou seja, ainda não tem certeza absoluta de que o delírio é verdadeiro. O pior cenário, segundo ele, é quando essa crença passa a ser uma convicção plena, ponto a partir do qual o diagnóstico de transtorno psicótico se confirma e o quadro se torna irreversível. Morrin reconheceu que precisou recorrer a reportagens jornalísticas porque, quando começou a pesquisa, ainda não havia casos clínicos publicados formalmente. Ele e um colega já haviam observado pacientes usando chatbots para validar suas crenças delirantes, e os relatos na imprensa ajudaram a confirmar que o fenômeno não era isolado. "O ritmo de desenvolvimento nessa área é tão acelerado que talvez não seja surpreendente que a academia não tenha conseguido acompanhar", disse Morrin. A fala resume bem o descompasso que ainda existe entre a velocidade de adoção dessas tecnologias e a capacidade da pesquisa científica de avaliá-las com rigor. O que as empresas dizem e o que ainda falta A OpenAI declarou que o ChatGPT não deve substituir atendimento profissional de saúde mental e informou que trabalhou com mais de 170 especialistas na área para tornar o GPT-5 mais seguro. A empresa admitiu, no entanto, que o modelo mais recente ainda apresenta respostas problemáticas diante de situações que indicam crise de saúde mental, e disse que continua aprimorando seus sistemas. Girgis observou que as versões mais recentes e pagas dos chatbots têm desempenho relativamente melhor do que as antigas ao lidar com prompts delirantes, embora todos ainda apresentem falhas. Para ele, isso é um indício de que as empresas poderiam programar seus modelos para identificar e tratar esse tipo de conteúdo de forma mais segura. O desafio, contudo, é técnico e clínico ao mesmo tempo. Morrin explica que confrontar diretamente uma pessoa com crenças delirantes costuma ser contraproducente: tende a fazê-la se isolar ainda mais. O equilíbrio correto (ouvir sem reforçar) pode ser mais do que um chatbot consegue oferecer. Por isso, os autores do estudo defendem que qualquer uso clínico de IA em saúde mental deve ser feito com supervisão de profissionais treinados. Mais Lidas