A primeira encíclica do papa Leão 14 surpreendeu. Com cinco capítulos, Magnifica Humanitas (“Magnífica Humanidade”) foi apresentada pessoalmente pelo pontífice na segunda-feira (25/5) e trata dos riscos da inteligência artificial (IA). No centro do documento está a ideia de que “jamais alguma máquina poderá substituir a magnífica humanidade no seu esplendor”.

A inspiração principal de Leão 14 foi outra encíclica, Rerum Novarum (“Das Coisas Novas”), do papa Leão 13. O texto de 1891 – que tinha como subtítulo “Sobre a Condição dos Operários” – denunciava os impactos da Revolução Industrial sobre a vida dos trabalhadores. Poucas encíclicas foram tão críticas ao sistema capitalista quanto a de Leão 13, a ponto de ter influenciado o Direito do Trabalho por defender avanços como salário digno, justiça social e valorização dos sindicatos.

Já o texto do atual líder da Igreja Católica tem como alvo uma das bases da 4ª Revolução Industrial. Ao torná-lo público no 135º aniversário da Rerum Novarum, Leão 14 sugere que a inteligência artificial é para hoje o que a máquina a vapor foi para o final do século 19. Assim como Leão 13 contestou os excessos do capitalismo industrial, Leão 14 dirige sua crítica ao capitalismo de plataforma e à concentração tecnológica. A seu ver, é necessário “desarmar a IA, removê-la da lógica da competição armada, que hoje já não é apenas militar, mas também econômica e cognitiva”.

De Tolkien às Big Techs

Ao longo do texto, Leão 14 atravessa áreas como teologia, filosofia, ciência política e cultura geral. A primeira surpresa foi o repertório incomum numa encíclica. Para discutir os dilemas éticos da IA, o papa mistura santos, filósofos, escritores, cineastas, músicos, artistas plásticos, educadores e ativistas.

Das referências culturais mais inesperadas, a que mais viralizou foi a citação a Gandalf, personagem da série O Senhor dos Anéis, de J. R. R. Tolkien. O papa recupera a fala do mago em meio à guerra contra Sauron: “Não nos cabe dominar todas as marés do mundo, mas fazer o que está ao nosso alcance”. O trecho vem de O Retorno do Rei, parte final da trilogia, e foi usado para defender uma ética da responsabilidade cotidiana diante da desumanização tecnológica.

Uma sociedade “desumanizada”

Quando a encíclica discute a manipulação da verdade e a degradação do debate público na era digital, Leão 14 também ecoa reflexões da filósofa Hannah Arendt sobre totalitarismo, verdade e banalização do mal. Entre os clássicos filosóficos e teológicos, o papa recorre constantemente a Santo Agostinho, São Tomás de Aquino e Platão.

A encíclica também evoca obras de arte, como Guernica, de Pablo Picasso, a Nona Sinfonia, de Ludwig van Beethoven, e A Lista de Schindler, de Steven Spielberg. Para o líder católico, a famosa pintura, em especial, tem valor “quase profético”, capaz de preservar a memória do horror humano e impedir a “normalização do mal”.

Mas uma das dimensões que mais repercutiram foi a crítica às Big Techs. Carregada de ambição, Magnifica Humanitas põe em pauta trabalho, guerra, manipulação digital, concentração de poder e até o risco de uma sociedade “desumanizada” pelos algoritmos. O documento procura se contrapor às utopias tecnológicas e entregar uma bússola moral para a era da IA.

A seguir, os cinco alertas mais importantes feitos pelo papa sobre os riscos da inteligência artificial.

1. O mito da neutralidade

Leão 14 rejeita logo de saída uma ideia muito popular no mundo da tecnologia: a de que algoritmos seriam ferramentas “objetivas” ou “imparciais”, que se tornam boas ou más conforme o uso que se faz delas. É um argumento recorrente no Vale do Silício – e o papa o questiona diretamente. Segundo a encíclica, “a tecnologia não é neutra, pois assume o rosto daqueles que a concebem, financiam, regulam e utilizam”. Algoritmos carregam vieses, interesses de mercado e lógicas de poder. A encíclica insiste que a pergunta central não é “o que a IA consegue fazer”, mas “a serviço de quem ela está”.

O alerta vai ao coração do debate contemporâneo sobre as big techs. O papa sustenta que sistemas de IA podem ampliar desigualdades, preconceitos e mecanismos de vigilância quando são guiados apenas por interesses econômicos ou geopolíticos. “Em muitos casos, no contexto digital, o controle de plataformas, infraestruturas, dados e capacidade computacional não é prerrogativa dos Estados, mas, sim, de grandes atores econômicos e tecnológicos”, registra Leão 14. “Quando um poder dessa magnitude se concentra em poucas mãos, tende a se tornar opaco e a escapar do controle público”.

2. Quando algoritmos decidem quem vive

“Não é permitido confiar decisões letais ou irreversíveis a sistemas artificiais”, declara Leão 14. É o trecho mais contundente da encíclica. O documento retoma aqui a herança de Leão 13, que em 1891 defendeu os trabalhadores da exploração industrial. Mas o cenário mudou: o inimigo agora é o algoritmo que elimina o emprego antes mesmo de haver tempo para protestar. “Nessa transição, não basta reagir quando os empregos desaparecem, mas é necessário gerir a transformação antecipadamente”, recomenda o papa. O texto defende que cada introdução de automação seja acompanhada por escolhas verificáveis para a proteção do emprego, a requalificação e a participação dos trabalhadores.

O papa critica uma cultura que transforma eficiência em valor absoluto. “A distância tecnológica não elimina a responsabilidade moral”, sintetiza o documento. Há escolhas que não podem ser terceirizadas para algoritmos, como deliberações sobre guerra, justiça, vida e morte. Quando a responsabilidade moral desaparece atrás de um sistema automatizado, abre-se espaço para a “burocracia sem rosto”. A crítica também mira o uso militar da IA, como armas autônomas e sistemas capazes de selecionar alvos sem intervenção humana direta.

3. Colonialismo digital

A encíclica estabelece um paralelo explícito entre a Revolução Industrial do século 19 e a revolução digital do século 21. Assim como trabalhadores foram explorados pela lógica industrial, o papa teme que a nova economia digital produza concentração extrema de riqueza e poder: “Quando o controle sobre a IA pertence a um punhado de corporações que não prestam contas a nenhum demos, instaura-se uma nova forma de colonização – agora digital, invisível e tão eficaz quanto as antigas”.

O documento indica que essas “novas formas de escravidão” estão ligadas ao controle de dados, à precarização do trabalho e à dependência tecnológica. Leão 14 critica diretamente a concentração de poder em poucos grupos privados capazes de controlar informação, comportamento e mercados globais. Por isso, o papa defende uma “reforma das Big Techs”. A proposta inclui supervisão pública da IA, transparência algorítmica e até órgãos reguladores globais. “O colonialismo nos nossos dias mostra uma nova face. Não só domina os corpos, como também se apropria dos dados, transformando as vidas pessoais em informação explorável”, indica o papa. “Caso contrário, a era digital não será pós-colonial, mas colonial sob outra forma.”

4. A crise da verdade

Outro ponto central da encíclica é o impacto da inteligência artificial sobre a percepção da realidade. O papa demonstra preocupação com deepfakes, manipulação algorítmica, desinformação em massa e ambientes digitais desenhados para estimular polarização e vício. Conforme o texto, plataformas digitais podem transformar emoções humanas em mercadoria e favorecer uma cultura de agressividade permanente. Para embasar sua conclusão, o papa recorre à filósofa alemã Hannah Arendt, sobrevivente do nazismo: “O desinteresse pela verdade leva, lentamente, mas inexoravelmente, a um deslizamento rumo ao totalitarismo”.

De acordo com Leão 14, “a desinformação não nasce com a IA, mas hoje encontra nela um poderoso multiplicador”. O papa acredita que uma sociedade incapaz de distinguir verdade de fabricação corre o risco de perder as bases da convivência democrática: quando a verdade é reduzida àquilo que produz engajamento, a pessoa humana deixa de ser sujeito e se torna produto. O pontífice clama por uma “ecologia da mente”, que projeta o silêncio, a reflexão e o discernimento humano diante do fluxo incessante de estímulos digitais.

5. Máquinas sem alma, humanos sem humanidade

O alerta mais profundo da encíclica é civilizacional. Leão 14 teme que a humanidade passe a admirar tanto a eficiência das máquinas que comece a desprezar características essencialmente humanas, como fragilidade, compaixão, empatia e liberdade. É um chamado contra a obsessão contemporânea pelo controle algorítmico da vida. Na visão de Leão 14, o futuro será salvo por pessoas capazes de preservar vínculos humanos reais: “A magnífica humanidade criada por Deus se encontra hoje perante uma escolha decisiva: erguer uma nova torre de Babel ou construir a cidade onde Deus e a humanidade habitam juntos”.

A preocupação real de Leão 14 é com a idolatria tecnológica – e com uma sociedade em que os seres humanos se tornem cada vez menos humanos. Diante da nova revolução tecnológica, o papa sugere o mesmo que Gandalf diante da guerra em Mordor: o futuro da humanidade depende menos do poder das máquinas do que da capacidade humana de resistir à tentação de se tornar uma delas. Para Leão 14, a grande disputa do século 21 não será entre humanos e máquinas, mas entre humanidade e desumanização.