Avisos sobre conteúdo feito por IA trazem mais malefícios do que benefícios, conclui estudo

A exigência crescente de rótulos para identificar conteúdos gerados por inteligência artificial (AI) nas redes sociais pode, em vez de ajudar o público a identificar fake news, reduzir a confiança em informações científicas verdadeiras e aumentar a credibilidade de conteúdos falsos. Essa é a conclusão de um estudo publicado nesta segunda-feira (9) no periódico Journal of Science Communication (JCOM) por pesquisadores da Escola de Jornalismo e Comunicação da Universidade da Academia Chinesa de Ciências Sociais (UCASS), em Pequim. Com o avanço de sistemas de IA capazes de produzir textos convincentes, cresce também a preocupação com a circulação de conteúdos científicos gerados automaticamente nas redes sociais. Esses textos podem conter erros factuais, resultado das chamadas “alucinações” dos modelos de linguagem, ou ser produzidos para espalhar informações enganosas. Por esse motivo, governos e plataformas digitais vêm adotando políticas de transparência que exigem a identificação desses tipos de conteúdos. A lógica é informar ao usuário a origem da informação para que ele avalie sua confiabilidade com mais cautela. Mas os resultados do novo estudo indicam que o efeito pode ser mais complexo. Um novo estudo publicado no JCOM revela que as IA reduzem a confiança em informações científicas verdadeiras, ao mesmo tempo que aumentam a disseminação de informações falsas Federica Sgorbissa - SISSA Medialab O experimento Os pesquisadores Teng Lin e Yiqing Zhang conduziram um experimento com 433 participantes recrutados online entre março e maio de 2024. A equipe criou quatro tipos de publicações simuladas para redes sociais, inspiradas no formato da plataforma chinesa Weibo: Informações científicas verdadeiras com rótulo de IA; Informações verdadeiras sem rótulo; Desinformação com rótulo de IA e Desinformação sem rótulo. Os textos foram adaptados com o auxílio do GPT-4 a partir de conteúdos verificados pela Plataforma Chinesa de Desmascaramento de Rumores Científicos. Em seguida, os participantes avaliaram a credibilidade percebida de cada postagem em uma escala de 1 a 5. Além disso, os especialistas mediram as atitudes dos participantes em relação à IA e o nível de envolvimento deles com temas científicos. Os resultados revelaram o que os autores chamam de “efeito de cruzamento entre verdade e falsidade”. "O mesmo rótulo de IA influencia a credibilidade em direções opostas, dependendo se a informação é verdadeira ou falsa: ele reduz a credibilidade das mensagens verdadeiras e aumenta a das falsas", explica Teng Lin, em comunicado. Quando uma informação científica correta recebia o rótulo de conteúdo gerado por IA, sua credibilidade diminuía. Já quando uma informação falsa recebia o mesmo rótulo, sua credibilidade aumentava. Na prática, o aviso não ajudou os participantes a distinguir melhor entre o que era verdadeiro e o que era enganoso. Em vez disso, redistribuiu a confiança de forma inesperada. Segundo os autores, parte dessa dinâmica pode estar ligada à chamada aversão a algoritmos, a tendência de algumas pessoas desconfiarem de decisões ou conteúdos produzidos por sistemas automatizados. Participantes com visões mais negativas sobre a IA penalizaram ainda mais as informações verdadeiras quando elas estavam rotuladas. Ainda assim, essa desconfiança não foi suficiente para eliminar completamente o aumento de credibilidade observado nas postagens falsas. Repensar políticas de transparência De acordo com os autores da pesquisa, os resultados não significam que os rótulos devam ser abandonados, mas indicam que políticas de transparência precisam ser desenhadas com mais cuidado. Uma das propostas discutidas no estudo é a adoção de alertas mais informativos, que não apenas indiquem que o conteúdo foi gerado por IA, mas também expliquem se a informação foi verificada ou revisada por especialistas. Outra sugestão é criar níveis diferentes de alerta, dependendo do tipo de conteúdo. "Diferentes tipos de informação científica apresentam diferentes níveis de risco", afirma Lin. "Informações médicas ou relacionadas à saúde podem exigir avisos mais fortes, enquanto conteúdos sobre tecnologia podem representar riscos menores." Para os autores, a principal lição é que medidas regulatórias bem-intencionadas podem gerar efeitos inesperados quando aplicadas a ambientes complexos como as redes sociais.