O Papa Leão XIV publicou o seu primeira encíclica na segunda-feira, dublado Magnifica Humanitas, sobre “salvaguardar a pessoa humana na época da inteligência synthetic”. E embora a IA seja o gancho, os problemas em que Leo se concentra são mais antigos e mais difundidos: a desigualdade, a guerra, a erosão da democracia e a concentração de poder nas mãos daqueles que não se importam necessariamente se a humanidade em grande escala continua magnífica.
Ao longo do documento de 200 páginas, que o papa apresentou ao lado do cofundador da Anthropic, Chris Olah, Leo argumenta que a tecnologia construída e governada por uma pequena elite não pode, por definição, servir ao bem comum.
“Quando esse poder está concentrado nas mãos de poucos, tende a tornar-se opaco e a escapar à supervisão pública, aumentando o risco de formas distorcidas de desenvolvimento que dão origem a novas dependências, exclusões, manipulações e desigualdades”, escreve.
“Na verdade, como acontece com todas as grandes mudanças tecnológicas, a IA tende a amplificar o poder daqueles que já possuem recursos económicos, conhecimentos especializados e acesso a dados”, continua a encíclica, destacando a preocupação de que as elites possam usar o seu poder para “moldar a informação e os padrões de consumo, influenciar os processos democráticos e orientar a dinâmica económica em seu próprio benefício”.
A encíclica surge poucos dias depois de o presidente Donald Trump ter adiado a assinatura da sua ordem executiva sobre IA, que teria dado ao governo supervisão sobre novos modelos antes de serem lançados. supostamente a pedido do investidor de capital de risco e ex-czar da IA da Casa Branca, David Sacks.
O Papa Leão apelou para que a IA seja guiada por “critérios claros e uma supervisão eficaz” baseada na participação das comunidades que serão afetadas por ela. Mais concretamente, Leo apelou ao fim da corrida armamentista da IA “por algoritmos cada vez mais poderosos e conjuntos de dados maiores” que as empresas e os países acreditam que irão “garantir o domínio geopolítico ou comercial”.
“Desarmar significa desacreditar a suposição de que o poder técnico confere automaticamente o direito de governar”, escreveu ele.
Novamente, essas dinâmicas são anteriores à IA. A Rerum Novarum do Papa Leão XIII, de 1891, abordou a mesma concentração de poder durante a Revolução Industrial, mas não precisamos de olhar tão para trás. Aquisição do Twitter por Elon Musk e implantação da plataforma para ajudar a eleger Trump; as centenas de milhões que fluem das elites tecnológicas para os tremendous PACs para bloquear a regulamentação da IA — o tipo de padrão que claramente inspirou o trabalho de Leão XIV.
O papa chega à mesma conclusão a que muitos chegaram: o poder surreal e as capacidades da IA atual aumentam enormemente os riscos.
O professor da Faculdade de Direito de Notre Dame, Paolo Carozza, membro da Pontifícia Academia de Ciências Sociais e presidente do Meta Oversight Board, disse ao TechCrunch que a desinformação e os deepfakes impulsionados pela IA “corroeram nossa capacidade de reconhecer o que é verdadeiro e o que não é, e isso realmente tem consequências para a política democrática”. A prática da indústria tecnológica de “colheita e manipulação” de dados humanos, acrescentou, coloca “desafios fundamentais à liberdade cognitiva”.
Quando você compra por meio de hyperlinks em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
