5 pontos que deveriam ser alterados no uso da IA, segundo o Papa Leão XIV

Em um longo discurso sobre inteligência artificial publicado nesta segunda-feira (25), o Papa Leão XIV soou o alarme sobre os impactos da tecnologia na sociedade, desde a perda massiva de empregos até o domínio das grandes empresas de tecnologia sobre a IA. A primeira encíclica do Papa, uma importante carta à Igreja que expõe o pensamento papal sobre um desafio moral ou social, é um texto de 245 parágrafos intitulado "Magnifica humanitas: sobre a salvaguarda da pessoa humana na era da inteligência artificial". No texto, o Papa Leão XIV alertou sobre o desenvolvimento de armas autônomas, o impacto ambiental da IA ​​e o risco que a IA representa para a conexão humana. Ao mesmo tempo, ele deixou claro que não vê a inteligência artificial como "inerentemente má". Embora muitas das preocupações levantadas pelo Papa na carta de segunda-feira ecoem pontos que ele já havia abordado antes, bem como aqueles levantados por céticos da IA, a encíclica representa uma importante intervenção papal no sempre polêmico debate sobre IA, aponta a Business Insider. Veja a seguir cinco pontos que merecem atenção, segundo o pontífice. 1. IA não deve ser monopolizada pelas grandes empresas de tecnologia O Papa Leão XIV alertou sobre o poder da IA ​​se concentrar "nas mãos de poucos". O setor é dominado por grandes empresas de tecnologia, incluindo Nvidia, Microsoft, Amazon, Google, Meta, OpenAI e Anthropic. O Papa não nomeou explicitamente nenhuma empresa, mas alertou sobre "grandes atores econômicos e tecnológicos" que controlam cada vez mais plataformas, infraestrutura, dados e poder computacional. "Quando tal poder se concentra nas mãos de poucos", escreveu ele, "tende a tornar-se opaco e a escapar à supervisão pública, aumentando o risco de formas distorcidas de desenvolvimento que dão origem a novas dependências, exclusões, manipulações e desigualdades." Baseando-se no princípio católico da "destinação universal dos bens", que tradicionalmente defende que todos os seres humanos têm um direito inerente aos recursos naturais, como o ar e a água, o Papa sugeriu que esse princípio se estenda agora aos algoritmos, às plataformas digitais e aos dados. O Papa também alertou que "grupos pequenos, mas altamente influentes" poderiam usar a IA para moldar os processos democráticos e direcionar os sistemas econômicos em seu próprio benefício. Na carta, o Papa Leão XIV pediu que a IA fosse "desarmada" da corrida por algoritmos mais poderosos, conjuntos de dados maiores e domínio comercial. Desarmar a IA, escreveu ele, "significa libertar a tecnologia do controle monopolista e abri-la à discussão e ao debate, tornando-a, portanto, amigável ao ser humano e restaurando-a à pluralidade das culturas e modos de vida humanos". 2. Desenvolvedores de IA devem incorporar os valores da transparência e da responsabilidade O Papa Leão XIV fez um "apelo especial" aos desenvolvedores de IA. Ele disse que os desenvolvedores "têm uma responsabilidade ética e espiritual particular", porque cada escolha de design "reflete uma visão da humanidade". O Papa exortou os desenvolvedores de IA a desenvolverem sistemas incorporados aos valores da transparência, da responsabilidade e da "atenção cuidadosa para garantir que o que está sendo cultivado seja um bem genuíno". O Papa Leão XIV também alertou contra a apresentação de sistemas de IA como inteiramente neutros e objetivos, quando muitas vezes refletem e reforçam os preconceitos de seus criadores. 3. É preciso proteger os empregos para evitar uma "calamidade social" Um tema central da carta foi o desemprego relacionado à IA, com o Papa Leão XIV alertando que o desemprego em massa poderia se tornar uma "verdadeira calamidade social". Os receios de que a IA possa devastar o mercado de trabalho têm feito parte do debate desde que a inteligência artificial generativa ganhou força. Embora algumas empresas tenham atribuído os recentes cortes de empregos à IA, nem todos concordam que ela representará uma catástrofe para o mercado de trabalho. O Papa escreveu em sua carta que, embora seja "certamente desejável" que a IA torne os empregos das pessoas mais seguros e fáceis, "a proteção das oportunidades de emprego e o papel insubstituível do indivíduo devem permanecer a regra geral". Ele escreveu que a "busca por maiores lucros" não pode justificar decisões que eliminem empregos. Perdas massivas de empregos devido à IA, alertou o Papa, correm o risco de criar "empobrecimento humano e cultural". Ele argumentou que governos e empresas devem se preparar para a disrupção causada pela IA antes que mais empregos desapareçam. "Toda introdução de automação e IA deve ser acompanhada por medidas verificáveis ​​para proteger o emprego, o treinamento e a participação dos trabalhadores", escreveu ele. 4. Seres humanos, e não sistemas tecnológicos, devem tomar decisões sobre uso de força letal Leão XIV destacou que a revolução digital está mudando a natureza dos conflitos. "Além da guerra convencional, existem formas híbridas como ciberataques, manipulação de informações, campanhas de influência e a automatização de decisões estratégicas." Segundo o Papa, hoje estamos testemunhando "uma verdadeira mudança de paradigma no discurso público e nas decisões relativas ao rearmamento, com um preocupante ressurgimento da guerra como instrumento da política internacional, enquanto os próprios princípios éticos que antes limitavam seu uso estão sendo corroídos". O pontífice defendeu que o desenvolvimento e a utilização da IA ​​na guerra devem estar sujeitos às mais rigorosas restrições éticas: "Não é permitido confiar decisões letais ou irreversíveis a sistemas artificiais". 5. É preciso desenvolver uma IA que seja mais sustentável do ponto de vista ambiental Em sua carta, Leão XIV apontou ainda a necessidade de reduzir o impacto ambiental das novas tecnologias relacionadas à inteligência artificial, que exigem grandes quantidades de energia e água. Mais Lidas