Você usa chatbots para orientação médica? Metade das respostas pode estar errada

O avanço da inteligência artificial no cotidiano já levou milhões de pessoas a recorrerem a chatbots para tirar dúvidas sobre sintomas, medicamentos e diagnósticos. Mas duas pesquisas recentes reforçam um sinal de alerta para empresas de tecnologia, profissionais de saúde e usuários: apesar da popularização dessas ferramentas, os modelos ainda falham com frequência quando o assunto é orientação médica. Uma das pesquisas, publicada na BMJ Open, avaliou cinco grandes modelos de IA com 250 perguntas de saúde e medicina e encontrou pouco mais de 50% de respostas corretas. Entre os erros, cerca de 20% foram classificados pelo pesquisador Nicholas Tiller como potencialmente perigosos, por poderem induzir usuários a condutas com risco de dano. O estudo também indicou que os sistemas tiveram desempenho pior em perguntas abertas e tenderam a responder com excesso de confiança, mesmo quando estavam errados. A segunda análise, publicada na JAMA Network Open e conduzida por pesquisadores do Mass General Brigham, testou 21 modelos com vinhetas clínicas padronizadas e concluiu que eles ainda têm desempenho fraco nas etapas iniciais do raciocínio diagnóstico. Segundo o estudo, os modelos acertam mais quando recebem o quadro completo, mas falham sobretudo ao construir hipóteses iniciais e lidar com incerteza clínica -- ponto considerado crítico em atendimentos reais. Uso por brasileiros O alerta ganha peso porque o uso da IA é expressivo em todo mundo. Segundo um estudo do aplicativo de telemedicina Olá Doutor, sete em cada dez brasileiros consultaram alguma IA para tirar dúvidas sobre sintomas ou possíveis doenças. O hábito é ainda mais comum entre quem convive com doenças crônicas: nesse grupo, o índice chega a 81,4%, contra 61,6% entre os demais pacientes. Outro levantamento, do Pew Research Center, aponta uma percepção ambígua do público: os usuários de chatbots tendem a considerar essas ferramentas convenientes e fáceis de entender, mas não necessariamente precisas. Entre quem usa esse tipo de recurso, 23% dizem que as informações não são muito ou nada precisas, ante 18% que as consideram altamente precisas. Mais Lidas