Nem deslumbramento, nem rejeição neoludita: a primeira encíclica do papa Leão XIV, Magnifica humanitas, aborda os desafios da inteligência artificial sem rejeitar o progresso que ela pode proporcionar, mas alertando para as consequências de seu uso motivado apenas pelo desejo desenfreado de poder ou de eficiência maximizada. Era um documento esperado desde a eleição de Leão XIV: logo após o conclave de 2025, ele afirmou ter escolhido seu nome papal inspirado em Leão XIII, o autor da encíclica Rerum novarum, de 1891, sobre a condição dos trabalhadores em uma época de mecanização crescente, acrescentando que hoje a IA coloca a sociedade diante de dilemas muito semelhantes.
A encíclica se insere na tradição da Doutrina Social da Igreja, que se baseia na aplicação de princípios que não são exclusividade de quem partilha da fé católica. Compreender a razoabilidade de princípios como a subsidiariedade, a solidariedade e o bem comum, por exemplo, não exige que uma pessoa tenha as mesmas concepções abraçadas pelos católicos sobre a divindade, ou sobre comportamentos morais em outras áreas. Até por isso, há décadas os papas endereçam suas encíclicas sociais não apenas aos fiéis católicos, mas “a todas as pessoas de boa vontade”. Além da já citada Rerum novarum, encíclicas sociais aparecem em momentos-chave da história, como a Grande Depressão, a corrida armamentista e nuclear, o debate sobre desenvolvimento e subdesenvolvimento, o colapso do socialismo estatista, a globalização econômica e a crise ambiental.
O apelo do papa por transparência, uso responsável, regulação estatal onde ela seja estritamente necessária, freios a monopólios e controle concentrado das decisões, e respeito à dignidade humana merece ser ouvido
A civilização que o ser humano construirá com a ajuda da IA depende diretamente da mentalidade daqueles que desenvolverem e usarem as ferramentas. Ela pode ser uma civilização tecnocrática, onde a eficiência é o valor supremo e seres humanos são avaliados – e descartados – de acordo com o que podem produzir; ou pode ser uma civilização que respeite a dignidade intrínseca a cada indivíduo, na qual a tecnologia existe como instrumento, e não como fim. Disso depende, por exemplo, o destino de milhões de trabalhadores cujas funções podem ser substituídas por inteligências artificiais. Elas podem ser simplesmente deixadas para trás, ou serem ajudadas pela sociedade e pelo Estado. “É desejável que a tecnologia alivie o homem de trabalhos particularmente pesados, repetitivos ou perigosos e ofereça um apoio inteligente à atividade humana; porém, o princípio geral deve continuar a ser a proteção dos postos de trabalho e do papel insubstituível da pessoa”, afirma Leão XIV, acrescentando que é preciso “gerir antecipadamente a transformação” e investir, por exemplo, em auxílio à requalificação de trabalhadores e transição profissional, pois o trabalho “não é um mero instrumento, mas expressa e enriquece a dignidade da nossa vida”.
Leão XIV cita o mundo do trabalho e outras áreas onde a IA encontra usos bastante amplos, como a guerra – que levanta preocupações éticas gravíssimas, graças às armas letais autônomas –, mas a encíclica nem de longe se resume a conselhos sobre aplicações práticas da inteligência artificial. Seu ponto de partida é a reflexão antropológica: o que torna o ser humano único, e portador de uma dignidade que nenhum outro ser ou máquina podem ter? A inteligência artificial não é capaz de borrar essas fronteiras? A essas questões, Leão responde que as IAs podem ser simular muitas características humanas de forma bastante convincente, mas não passam disso. Elas não têm consciência moral, não fazem julgamentos, não podem assumir as consequências do que fazem, “não passam pela alegria e pela dor, não amadurecem nas relações, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade (…) não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio”.
A dependência excessiva das IAs, no entanto, tem a capacidade de apagar lentamente algumas dessas características únicas do ser humano. “A rapidez e a simplicidade com que é possível obter orientações, processamentos complexos, conteúdos midiáticos e formas de assistência concreta simplificam as nossas vidas, mas também podem habituar-nos a delegar em demasia e a procurar respostas prontas, enfraquecendo a própria opinião e a criatividade”, alerta o papa. Quanto à “imitação artificial de uma comunicação humana positiva – palavras de conselho, empatia, amizade, amor” (algo longe de estar garantido, a julgar por relatos de chatbots que aconselham divórcio e até suicídio), Leão XIV afirma que “o risco não é tanto que uma pessoa acredite estar a falar com outra, mas que perca o desejo de procurar verdadeiramente o outro”.
VEJA TAMBÉM:
A Igreja está longe de ser a única a alertar sobre possíveis consequências deletérias das tecnologias de informação. Especialistas de diversas áreas, como psicologia e neurociência, têm se dedicado a mapear os resultados do emprego contínuo de aparelhos como smartphones e de tecnologias como mídias sociais no cérebro dos usuários. Geração ansiosa, de Jonathan Haidt, já se tornou um clássico do ramo ao mostrar como as crianças e adolescentes trocaram o que ele chama de “infância baseada no brincar” pela “infância baseada no celular”, resultado em aumento de casos de depressão e ansiedade nessa faixa etária, além de alterações mais profundas como a dificuldade para se concentrar e até mesmo o vício puro e simples. O peso das palavras do papa pode acordar aqueles que ainda não perceberam essa tendência. “Devemos educar-nos ao jejum da IA”, diz o pontífice, afirmando que “educar para o uso da IA implica, portanto, educar para decidir quando e em que situações não a utilizar”.
O apelo do papa por transparência, uso responsável, regulação estatal onde ela seja estritamente necessária (por exemplo, para coibir crimes), freios a monopólios e controle concentrado das decisões, e respeito à dignidade humana merece ser ouvido. Mas será assim? A apresentação da encíclica, na segunda-feira, contou com a presença de Christopher Olah, cofundador da Anthropic, responsável pelo Claude; ele falou da “pressão para se manter viável comercialmente, pressão geopolítica, e as velhas pressões do orgulho e da ambição”, que às vezes bate de frente com o desejo de “fazer a coisa certa”. A Anthropic já comprou uma briga com o Pentágono, ao impedir que suas ferramentas de IA fossem usadas pela máquina militar americana para “quaisquer usos legais”, como queria o secretário de Defesa, Pete Hegseth. Se os concorrentes se deixarem guiar pela mesma preocupação, não apenas no campo militar, e se os usuários buscarem usar as IAs com a devida prudência, podemos ter esperança em uma sociedade que se sirva da tecnologia, em vez de servir a ela.
