No primeiro grande documento teológico do seu papado, o Papa Leão alertou a humanidade sobre os perigos do desenvolvimento subregulamentado da IA – ao mesmo tempo que period flanqueado por um dos maiores intervenientes na IA.
“Na period da inteligência synthetic, quando a dignidade humana é ameaçada por novas formas de desumanização, o nosso é o dever urgente de permanecermos profundamente humanos”, escreveu o Papa nas suas 43.000 palavras. encíclica intitulado Magnifica Humanitas.
No documento, o Papa tenta contestar a forma como os avanços tecnológicos provenientes de Silicon Valley desumanizam a sociedade, reduzindo “o mistério da pessoa a dados e desempenho” na interminável busca tecnológica pela perfeição. Ele apela à indústria para que evite “a idolatria do lucro que sacrifica os fracos” e apela a um “envolvimento político mais activo” no desenvolvimento da IA.
“Exortar à prudência, à avaliação rigorosa e mesmo, por vezes, a um ritmo mais lento na adoção da IA não significa opor-se ao progresso; pelo contrário, é um exercício de cuidado responsável pela família humana”, escreveu o Papa.
O impacto da IA no emprego e no bem-estar
A encíclica do Papa aborda tudo, desde o impacto dos parceiros da IA até à proliferação de deepfakes de IA, mas, em explicit, dedica tempo a levantar preocupações sobre o impacto que a IA terá no mercado de trabalho e na guerra.
Durante o ano passado, as iniciativas corporativas de IA foram citadas como impulsionadoras de demissões e decisões de redução de contratações em vários setores, mas particularmente em tecnologia. De acordo com um relatório recente, 99% dos CEO esperam reduções no número de funcionários nos próximos dois anos devido à IA, alimentando ainda mais os receios de uma iminente crise de desemprego de colarinho branco impulsionada pela IA.
“O trabalho continua a ser uma dimensão basic da experiência humana, pois não é apenas um meio de sustento, mas também um contexto de expressão, de relacionamento e de contribuição para a comunidade”, escreveu o Papa. “Uma sociedade que garante emprego a apenas uma pequena fração da população, apesar de ter um elevado nível de desenvolvimento técnico, corre o risco de expor muitos à inatividade forçada, à falta de responsabilidade e à ausência de tarefas e estímulos diários, resultando no empobrecimento humano e cultural.”
Os sistemas de IA também estão profundamente enraizados em muitas forças armadas avançadas e são utilizados de forma controversa em conflitos em curso, inclusive pelo exército israelita na sua vigilância em massa e na sua ofensiva militar contra o povo palestiniano.
No documento, o Papa Leão diz que “não é permitido confiar decisões letais ou de outra forma irreversíveis a sistemas artificiais” porque essas decisões exigem “consciência, responsabilidade pessoal e o reconhecimento do outro como pessoa”.
Alertando o mundo sobre a IA flanqueada por um gigante da IA
Acompanhando o Papa na apresentação da encíclica na segunda-feira estava um esperado grupo de teólogos e funcionários do Vaticano, juntamente com um convidado surpreendente: Chris Olah, um dos co-fundadores da gigante da IA Anthropic.
Em comparação com a maioria dos seus pares na indústria da IA, a Anthropic tem defendido frequentemente mais regulamentação, uma postura que levou muitos a referirem-se ao seu CEO, Dario Amodei, como um “destruidor”. Mas enquanto a empresa e a Amodei pedem mais regulamentação e alertam a sociedade sobre os perigos relacionados com os seus modelos, também continuam a desenvolver, lançar e ganhar dinheiro considerável com os referidos modelos “perigosos”.
E embora a Anthropic tenha tido um desentendimento público com o Pentágono no início deste ano por supostamente se recusar a ceder nas restrições ao uso de sua tecnologia em armas totalmente autônomas e vigilância doméstica em massaa empresa mantém uma parceria ativa de IA com os militares desde 2024 através do polêmico gigante da tecnologia Palantir.
Na apresentação da encíclica, segundo o New York TimesLeo disse Olah, que lidera a Anthropic’s Equipe de pesquisa de interpretabilidade, vinha trabalhando com o Vaticano há algum tempo na construção de uma compreensão da inteligência synthetic.
Olah teria dito que a encíclica period “apenas o começo” de “uma longa colaboração entre aqueles de nós que estão construindo isso e aqueles que podem ver o que nós, de dentro, não podemos”.
O texto da encíclica também reflete a linguagem específica usada pela Antrópica para explicar como funcionam os sistemas de IA, de acordo com o Washington Post, apontando ainda para a influência do gigante da IA no que o Vaticano está a posicionar como o documento orientador para o desenvolvimento da IA ethical e ética.
