O dragão e a magnífica humanidade
À guisa de alerta
Antes de mais nada, cabe aqui um alerta: eu não sou católico romano, sou cristão mas de tradição reformada de Lutero e de Calvino, o que não significa que entre reformados e católicos romanos não existam alguns pontos teológicos em comum, afinal somos originários da mesma crença. Uso ao longo do texto a expressão “católico romano” de propósito: o termo “católico”, no sentido original de universal, também cabe a nós, de fé reformada, e quero evitar que um leitor de qualquer formação ou crença o tome num só sentido.
Uma outra questão é que, apesar de ter minhas convicções religiosas, quando escrevi meu livro não tinha nenhuma pretensão além da discussão filosófica e técnica. O livro é um texto laico.
O terceiro ponto é que, apesar de ter sido lançado meses antes do ChatGPT, eu não estava fazendo nenhum exercício de futurismo, minha análise partia das ferramentas de IA que estavam em uso já há alguns anos.
Em junho de 2022, meses antes de o primeiro grande modelo de linguagem chegar ao público, publiquei O dragão da inteligência artificial[1]. Em maio de 2026, o papa Leão XIV assinou Magnifica humanitas[2], a primeira encíclica do seu pontificado, dedicada à salvaguarda da pessoa humana na era da inteligência artificial.
Separam os dois textos quatro anos e dois pontos de partida diferentes. O primeiro é um ensaio construído a partir das lentes do pensamento complexo, que recusa qualquer pretensão de posse da verdade. O segundo é um documento de magistério, que fala a partir da Doutrina Social da Igreja e da Revelação. Lidos lado a lado, convergem em vários diagnósticos sobre a técnica e sobre o humano, e divergem sobretudo no fundamento e no destino que atribuem a esse humano.
O que segue não esgota a comparação, mas organiza os principais pontos comuns e as diferenças mais relevantes.
O que temos em comum?
A técnica que não é neutra nem autônoma
O ponto de contato mais nítido está na recusa simultânea de duas ilusões opostas. O livro afirma que “nenhuma tecnologia tem em si mesma um posicionamento moral” e adverte, na mesma página, que “não podemos cair na ingenuidade de acreditar que as tecnologias são absolutamente neutras”. A encíclica formula a mesma tensão quase nos mesmos termos: a técnica “não é, em si mesma, um mal”, mas “na prática, não é neutra, porque tem o rosto daqueles que a concebem, financiam, regulam e utilizam”. Os dois textos rejeitam o determinismo que trata a máquina como destino inevitável e também o discurso que a apresenta como simples instrumento sem consequência. Em ambos, a pergunta moral se desloca do artefato para quem o projeta e para os fins que se propõe atingir.
Vale aproximar dessa leitura duas referências. Roland Barthes, em A câmara clara[3], distingue o studium, a camada cultural, intelectual e histórica de uma imagem, daquilo que de fato nos toca; o studium é o interesse geral, a informação e o contexto que nos fazem compreender uma fotografia sem nos atingir por dentro. Byung-Chul Han, em Não-coisas[4], retoma o tema e sustenta que a câmera digital deixou de ser instrumento de memória e resistência, como era a fotografia analógica, e passou a meio de autoexposição e domínio, com o mundo reduzido a informação e a mercadoria. Também aqui a técnica carrega a marca de um modo de olhar, e esse modo não é neutro.
A inteligência artificial não é a inteligência humana
Meu livro dedica capítulos a separar as duas inteligências. Apoiado em Erik Larson[5], sustenta que a máquina calcula mas não compreende contextos, conecta pontos sem lhes dar sentido, e que a inteligência humana e a da máquina são de naturezas distintas. A encíclica chega ao mesmo lugar por outro caminho. Reconhece que os sistemas imitam funções da inteligência humana e muitas vezes a superam em velocidade, mas não vivem experiência, não têm corpo, não amadurecem em relações, não possuem consciência moral e não compreendem aquilo que produzem. A aprendizagem da máquina é descrita como adaptação estatística, diferente do crescimento de quem se deixa moldar pela vida.
Byung-Chul Han, em Favor fechar os olhos[6], ilumina a mesma distinção pelo lado da memória. A memória humana tem estrutura narrativa: a da máquina é aditiva, acumula sem história e, por isso, não chega a uma conclusão. A imagem que ele propõe é doméstica: numa casa habitada, os objetos contam histórias, e é essa duração narrada que a soma de dados não reproduz.
O humano reduzido a meio e medido pela eficiência
A crítica do Dragão ao “pensamento único”, instrumental e utilitário, retoma a razão instrumental de Horkheimer[7]: o ego que transforma tudo em meio e a natureza esvaziada de valor quando não tem utilidade. Coisas, pessoas e ideias deixam de ter valor e passam a ter preço. A encíclica condena uma ideologia que considera particularmente perigosa, a que faz o valor da pessoa depender do desempenho e da eficiência, reduzindo-a a um recurso a explorar. E sintetiza a mesma inquietação na fórmula de que se passa a “ter mais” sem “ser mais”, e na advertência de que, quando a eficiência se torna a medida do valor, o ser humano se pensa como projeto a otimizar.
Há um passo a mais nesse movimento. O humano reduzido a meio termina por se coisificar na própria corrida pelo desempenho, medindo-se primeiro contra a máquina e depois contra si mesmo. O desempenho é atuação, processo que se repete sem se fechar numa conclusão.
Calcular produz informação. Pensar é outra coisa.
A atrofia do pensamento e a delegação da decisão
No livro insisto em que a delegação às máquinas empobrece quem delega: perda de memória, empobrecimento da linguagem, queda da concentração, e a “segunda singularidade” de Gary Klein[8], em que o conhecimento humano regride à medida que as decisões são terceirizadas. A imagem do “pastoreio dos robôs”, tomada de Mariotti[9], condensa esse risco. A encíclica registra o mesmo movimento. Adverte que a facilidade de obter respostas prontas pode habituar a delegar em demasia e enfraquecer a opinião e a criatividade, defende uma educação que ensine quando não usar a ferramenta, falando até em “jejum da IA”, e descreve trabalhadores desqualificados e submetidos ao ritmo das máquinas.
Byung-Chul Han, em Sociedade da transparência[10], descreve o solo cultural desse empobrecimento. O tempo se fragmenta em instantes premidos pelo imediatismo, sem a cadência que dá duração às coisas, e a ausência de distância suprime a reflexão que enraíza. O passado é descartado por já não encontrar o que o ligue ao presente.
A caixa-preta e a máquina “cultivada”
Em “Ainda não muito inteligente”, o livro trata o efeito caixa-preta e o problema da explicabilidade: o modo como os sistemas chegam a conclusões permanece obscuro mesmo para quem os constrói. A encíclica afirma o mesmo com vocabulário próximo ao dos laboratórios atuais, ao dizer que as inteligências artificiais modernas são “mais cultivadas do que construídas”, que os programadores não projetam todos os detalhes e que as representações internas desses sistemas permanecem desconhecidas. É um dos pontos em que o livro, escrito antes da popularização dos modelos de linguagem, já apontava uma preocupação que a encíclica viria a assumir.
Entre o entusiasmo e o medo
Os dois textos recusam tanto o otimismo ingênuo quanto o catastrofismo. O livro se mantém à distância do “positivismo ingênuo” e do “negativismo catastrófico”. A encíclica afirma que a verdadeira escolha está entre um progresso que serve a pessoa e um progresso que a submete, e que a alternativa real está nessas duas formas de construção, e não entre entusiasmo e medo.
Diferenças
Por motivos mais que óbvios, ou seja, essa é a sua função religiosa, a encíclica é uma carta de recomendações, algo que eu não teria autoridade (nem vontade) de propor, fundamentada na crença, e nas regras da crença católica romana. O livro é um exercício de reflexão a partir dos fatos que eu constatava.
O fundamento: incerteza assumida ou dignidade recebida
Aqui está a divergência maior. O livro recusa qualquer ancoragem definitiva. Diz que nunca esteve “em um cartório recebendo a escritura de posse da verdade”, convida o leitor a discordar e encerra oferecendo como única garantia a da incerteza. Seu chão é a complexidade e o pensamento crítico. A encíclica funda tudo na dignidade ontológica da pessoa, criada à imagem de Deus, dignidade que não depende de capacidades, mérito ou desempenho, e que nenhum poder pode anular. Onde o livro mantém a pergunta aberta, a encíclica responde a partir de uma verdade que afirma receber, não construir.
O método: complexidade ou doutrina social
O livro raciocina com Morin[11] e Mariotti: dialógica, recusa do “ou/ou”, recursão, princípio hologramático, crítica da linearidade cartesiana. A encíclica raciocina com os princípios da Doutrina Social: bem comum, destinação universal dos bens, subsidiariedade, solidariedade, justiça social, desenvolvimento humano integral. São linhagens intelectuais diferentes que chegam a conclusões paralelas.
Há um eco curioso entre a “dialógica” do livro, antagonismos que se complementam, e a figura do poliedro retomada pela encíclica, além da recusa comum à homogeneização, que o livro chama de pensamento único e a encíclica associa à uniformidade de Babel. Imagem que, a meu ver, foi muito bem escolhida.
O alcance e a disposição a prescrever
A encíclica é sistemática e programática. Percorre o trabalho, o desemprego, a verdade na vida pública, a educação, a família, as novas formas de escravidão, a guerra, as armas autônomas e a crise do multilateralismo, e propõe critérios concretos de ação, regulação e prestação de contas. O livro é um ensaio focado na inteligência e na qualidade do pensamento, e recusa deliberadamente a prescrição, preferindo provocar reflexão a indicar caminhos. Um quer iniciar processos e orientar escolhas públicas; o outro quer colocar os neurônios do leitor em ação e parar por aí.
O destino: encetamento ou esperança
O livro termina em “Encetamento”, palavra escolhida para dizer que não encerra nada. Seu horizonte é ambivalente: no limite, todos seríamos substituíveis, e a ressalva final lembra que isso só não se dará se o progresso não destruir o mundo antes. A encíclica termina em esperança teológica, na imagem da reconstrução de Jerusalém segundo Neemias, na civilização do amor e no cântico do Magnificat. Diante das promessas do transumanismo, oferece uma resposta positiva: o verdadeiro “mais que humano” não vem de uma divinização técnica, mas da graça recebida em Cristo. O tom também difere. O livro é irônico e provocador, a encíclica é pastoral e conclui em oração.
Uma observação sobre a antecipação
Vale registrar que o livro, escrito antes da chegada pública dos modelos de linguagem, já sinalizava por dentro da teoria da complexidade três pontos que a encíclica trataria quatro anos depois: a não neutralidade da técnica, a opacidade dos sistemas e o empobrecimento de quem delega a decisão à máquina. A convergência, nesse aspecto, não decorre de influência direta, mas de duas leituras atentas que apontam para o mesmo problema.
Fechamento ou um novo encetamento?
Dois textos de origens distintas, um ensaio pragmático e uma encíclica de fé, chegam ao mesmo cruzamento: a convicção de que o ponto decisivo está naquilo que permanece propriamente humano quando se delega cognição à máquina.
Convergem ao recusar a neutralidade da técnica, ao separar a inteligência artificial da humana, ao denunciar a redução da pessoa a meio e ao temer a atrofia do pensamento. Separam-se no fundamento, complexidade e incerteza de um lado, dignidade recebida e graça de outro, e no destino, a pergunta deixada em aberto de um lado, a esperança afirmada de outro.
Para um não católico romano que escreveu sobre o tema antes da encíclica, o encontro talvez seja menos surpreendente do que parece: quando se leva a sério a pergunta sobre o humano, vários caminhos desembocam na mesma encruzilhada, ainda que a tomem por estradas diferentes e sigam adiante em direções distintas.
Vale fechar com uma terceira voz, que ajuda a entender por que esse cruzamento existe. Para Søren Kierkegaard[12], a grandeza do ser humano está na consciência, na liberdade e numa responsabilidade infinita. O homem precisa tornar-se homem, assumir a própria singularidade, escolher a si mesmo e carregar o peso existencial dessa escolha.
A liberdade tem a sua vertigem. Dotado de espírito, o ser humano imagina possibilidades sem fim e precisa escolher ser apenas uma, e a angústia é a consciência desse custo. Kierkegaard via nessa angústia a prova da nossa verticalidade espiritual, e situava a verdade na subjetividade, no viver apaixonado por aquilo que faz sentido para o indivíduo. O caminho até essa estatura passa por três estágios, o estético dos prazeres imediatos, o ético do compromisso com valores universais e o religioso, o salto de fé solitário em direção a Deus.
Há aqui um espelho dos dois textos. A liberdade que escolhe, a angústia que pensa e a subjetividade que se compromete são justamente o que nenhuma adaptação estatística alcança, e é desse núcleo que o ensaio e a encíclica, cada um à sua maneira, se ocupam.
Algumas objeções reformadas
Como declarei logo no princípio, sou um cristão reformado e, apesar de origens comuns, temos diferenças doutrinárias e cosmogônicas significativas, o que nos impede de ler com total isenção.
Sob o princípio da sola scriptura, a Doutrina Social e a Tradição da Igreja derivam da Bíblia e não constituem, elas próprias, fonte de doutrina. Daí o desconforto com um texto que cita passagens bíblicas mas se move sobretudo na política, na economia, na sociologia e na ética, pronunciando conteúdos programáticos para o mundo em matéria que, a meu ver, é da competência da sociedade organizada em Estado. Púlpito não é palanque.
O ponto mais agudo é uma contraimagem bíblica. A encíclica opõe Babel à reconstrução de Jerusalém no tempo pós-exílio, o que eu mesmo elogiei. Pensando biblicamente, o verdadeiro contraponto de Babel não estaria em Neemias, obra tão humana quanto a torre, e sim em Pentecostes. Em Babel, homens de uma só língua tentam subir ao céu e terminam dispersos na confusão das línguas; em Atos, o céu desce e cada estrangeiro ouve a mensagem na própria língua. De um lado o homem da confusão, de outro o Deus da ordem. Aceito a imagem de Babel e recuso o desenvolvimento que a encíclica lhe dá.
Daí decorre uma segunda crítica. Ao falar em construir a cidade do bem comum e em reerguer Jerusalém, a encíclica deslocaria o foco da Nova Jerusalém escatológica, que desce de um novo céu e de uma nova terra, para uma Jerusalém terrena, um céu na terra ou paraíso recuperado. Isso ressoa o mesmo mito de um mundo melhor implantado aqui, e soa mais a pretexto que a texto. A esse desconforto teológico soma-se a tensão entre a mensagem declarada e a riqueza acumulada da instituição que a emite.
A encíclica responderia que, na sua doutrina, Escritura e Tradição não se opõem, e que falar ao mundo em matéria social pertence à sua vocação. O que me parece digno de nota é que a própria objeção confirma a tese deste ensaio: a divergência decisiva entre os dois textos, e entre as duas tradições, recai sobre o fundamento, sobre onde se ancora aquilo que permanece humano.
É nesse ponto, e não no diagnóstico da técnica, que as estradas se separam.
[1]ADIRON, Fábio. O dragão da inteligência artificial: contra o guerreiro da desinteligência natural. São Paulo: edição do autor, 2022.
[2]LEÃO XIV. Carta encíclica Magnifica humanitas: sobre a salvaguarda da pessoa humana na era da inteligência artificial. Vaticano: Libreria Editrice Vaticana, 15 de maio de 2026.
[3]BARTHES, Roland. A câmara clara: nota sobre a fotografia. Tradução de Júlio Castañon Guimarães. Rio de Janeiro: Nova Fronteira, 1984. Original: La chambre claire (1980).
[4]HAN, Byung-Chul. Não-coisas: reviravoltas do mundo da vida. Tradução de Rafael Rodrigues Garcia. Petrópolis: Vozes, 2022.
[5]LARSON, Erik J. The myth of artificial intelligence: why computers can’t think the way we do. Cambridge, MA: Belknap Press, 2021.
[6]HAN, Byung-Chul. Favor fechar os olhos: em busca de um outro tempo. Tradução de Lucas Machado. Petrópolis: Vozes, 2021.
[7]HORKHEIMER, Max. Eclipse da razão (original: Eclipse of reason, 1947), onde se desenvolve o conceito de razão instrumental.
[8]KLEIN, Gary. The second singularity. Psychology Today, dez. 2019.
[9]MARIOTTI, Humberto. Sociedades tóxicas. São Paulo: 8M, 2021.
[10]HAN, Byung-Chul. Sociedade da transparência. Tradução de Enio Paulo Giachini. Petrópolis: Vozes, 2017.
[11]MORIN, Edgar. Introdução ao pensamento complexo. Porto Alegre: Sulina, 2005; e O método (6 v.). Porto Alegre: Sulina.
[12]KIERKEGAARD, Søren. O conceito de angústia (original de 1844). Os três estágios da existência aparecem sobretudo em Ou–ou (1843) e Estágios no caminho da vida (1845).