Em 2024, Jake Moffatt reservou um voo para o funeral de sua avó. O chatbot do site da Air Canada informou que ele deveria comprar a passagem, pagar a tarifa integral e solicitar um desconto por luto, que seria de aproximadamente US$ 800, dentro de 60 dias após o voo. Foi exatamente isso que Moffatt fez. Quando solicitou o desconto, a Air Canada negou seu pedido; a política da empresa, descrita em outra parte do site, afirmava claramente que os passageiros que desejassem obter o desconto por luto precisavam solicitá-lo antes de viajar. O chatbot da Air Canada havia dado informação incorreta sobre a política da companhia aérea.
Quando Moffatt processou a empresa em um tribunal da Colúmbia Britânica, a Air Canada argumentou que seu chatbot “é uma entidade jurídica separada, responsável por suas próprias ações”. O tribunal classificou essa alegação como uma “afirmação notável” (em outras palavras, juridicamente absurda) e considerou a companhia aérea responsável pelo que sua máquina havia dito. Isso parece claramente correto.
Agora, vamos subir a aposta. Um comandante do Exército dos Estados Unidos pode hoje empregar o AeroVironment Switchblade 600, uma “munição vagante” (loitering munition) que transporta uma ogiva de 15 kg com reconhecimento de alvos orientado por inteligência artificial. O CEO da AeroVironment afirmou que a tecnologia para um ataque totalmente autônomo com esse sistema “praticamente já existe hoje”. Quando a arma seleciona e atinge um alvo, quem matou alguém? Seguindo o raciocínio do tribunal da Colúmbia Britânica, a resposta parece ser: o ser humano que decidiu empregar o Switchblade.
A recente encíclica do papa Leão XIV, Magnifica humanitas, proibiria todas essas armas. Voltarei a ela mais adiante. Antes disso, porém, quero examinar a lei talmúdica e rabínica sobre o golem, pois ela formula e responde muitas questões sobre autômatos poderosos e letais.
Um golem não tem alma
Um golem é algo feito por mãos humanas, normalmente imaginado como tendo uma aparência humanoide, que se move sozinho e obedece a ordens. Segundo o Talmude, em Sanhedrin 65b, o rabino Rava, um sábio babilônico do século 4.º, criou um golem e o enviou a seu colega, o rabino Zeira. Zeira falou com o golem, mas ele não respondeu. “Você é obra dos companheiros”, disse Zeira, reconhecendo que o golem era criação de outro rabino. Então, ordenou que o golem retornasse ao pó, e ele imediatamente se desfez.
Quem envia ao mundo algo incapaz de responder por si mesmo é moral e juridicamente responsável pelo que esse instrumento faz
O Talmude não registra qualquer hesitação por parte de Zeira. Ele falou, o golem não respondeu, e ele o destruiu. Mas a questão não era simplesmente o fato de o artefato ser mudo: Zeira estava testando a capacidade do golem de responder moralmente por suas próprias ações. A lição, segundo rabinos e comentaristas, é que, embora o golem pudesse obedecer a ordens, no sentido de fazer o que lhe mandavam fazer, ele não tinha obrigações morais, porque não era o tipo de ser ao qual tais obrigações se aplicam.
Quando uma pessoa recebe uma ordem, ela faz uma escolha moral: obedecer ou não obedecer. Em qualquer dos casos, deve ser capaz de justificar sua decisão, explicando por que estava certa ou admitindo que estava errada. Na narrativa talmúdica, a incapacidade de falar é tida como prova de que o golem não pode responder por suas escolhas e, portanto, não é um agente moral. Por isso Zeira não hesita em destruí-lo: um autômato não tem status moral.
Rava havia moldado o golem a partir do pó, o que remete à criação de Adão no Gênesis. Segundo Sanhedrin 38b, Adão também era inicialmente um golem, mas com uma diferença crucial: Deus soprou vida no primeiro homem e, nas palavras do Gênesis, “ele se tornou uma alma vivente”. É por isso que, mais tarde, quando Adão desobedece a Deus, Deus lhe pergunta: “Onde estás?” Deus exige uma explicação para suas ações e Adão, ao contrário do golem de Rava, pode responder, e de fato responde.
O Targum Onkelos, antiga tradução aramaica da Torá, traduz “alma vivente” como “espírito falante”. O golem de Rava carecia desse espírito falante. Um golem não tem capacidade de responder diante de Deus nem de prestar contas de seus atos e, portanto, não possui status moral.
Um golem não conta
Quatorze séculos depois, e a milhares de quilômetros de distância, a lei do golem reapareceu na tradição rabínica. O rabino Elias de Chełm, na Polônia, criou seu próprio golem. Ele andava e trabalhava, obedecendo às ordens do rabino. Ele também crescia e, em um paralelo perturbador com os sistemas contemporâneos de inteligência artificial, o golem tornou-se tão grande que Elias concluiu que em breve poderia destruir o mundo. Nesse momento, o rabino decidiu destruí-lo. Mas, ao voltar ao pó, o golem arranhou seu rosto.
VEJA TAMBÉM:
Por que o golem arranhou seu criador? Elias manteve responsabilidade moral pelas ações do golem durante toda a sua existência, desde o momento da criação até o momento da destruição. Nada do que o golem fez pertencia moralmente a ele mesmo; tudo pertencia ao homem que o havia animado. O arranhão era o testemunho físico dessa verdade: Elias carregou em seu próprio rosto as consequências de sua criação. Quem envia ao mundo algo incapaz de responder por si mesmo é moral e juridicamente responsável pelo que esse instrumento faz. Essa responsabilidade permanece com quem o enviou, e se torna mais pesada quando ele não consegue mais recuperar ou controlar o instrumento.
Quatro gerações depois, um aluno perguntou a Tzvi Hirsch Ashkenazi, rabino-chefe de Amsterdã e bisneto de Elias, se o golem de seu antepassado poderia contar como um dos dez homens judeus necessários para a oração comunitária. O rabino respondeu que não, e a razão era semelhante às anteriores. Um golem pode executar uma ordem, mas não está moralmente obrigado a fazê-lo. Tampouco pode participar de uma relação de aliança com Deus. Aquilo que não é capaz de assumir obrigações não é uma pessoa e não pode ser contado como tal.
Essa decisão estabelece uma regra categórica sobre o que é necessário para a personalidade jurídico-moral: uma pessoa é alguém capaz de assumir obrigações e de agir moralmente para cumpri-las.
Quando golems causam danos
Até aqui, tratamos da responsabilidade moral. Mas e a responsabilidade jurídica pelos golems? O Talmude estabelece uma regra em sua lei dos danos: “o fogo de um homem é sua flecha”. Quando o fogo de uma pessoa se espalha e queima o campo do vizinho, quem faz o fogo tem a obrigação de indenizar. O fogo é como uma flecha disparada à distância.
O Talmude, então, acrescenta um teste: o fogo passou por um intermediário que poderia ter se recusado a agir? Se uma pessoa transmite o fogo por meio de um adulto competente que poderia ter se recusado, a escolha livre desse intermediário rompe a cadeia de responsabilidade que remonta ao emissor original. Mas, se alguém entrega o fogo diretamente ao instrumento de destruição, sem qualquer escolha livre intermediária para interromper essa cadeia, continua sendo responsável por tê-lo posto em movimento.
Qualquer pessoa pode colocar um autômato em ação, mas continua responsável por todas as suas ações, sejam elas desejadas ou não
Essa antiga norma estabelece uma estrutura simples que podemos aplicar hoje: qualquer pessoa pode colocar um autômato em ação, mas continua responsável por todas as suas ações, sejam elas desejadas ou não.
Chatbots são golems
A inteligência artificial é o golem dos nossos dias. Embora os grandes modelos de linguagem (LLMs) modernos possam “falar” em certo sentido superficial, eles não são espíritos falantes, porque não receberam uma alma de um Criador.
Como sugere o caso da Air Canada, o common law chegou essencialmente às mesmas conclusões que o direito judaico. O parágrafo 1.04 do Restatement (Third) of Agency – tratado composto pelo American Law Institute – explica que programas de computador, por não serem pessoas, não podem ser responsabilizados juridicamente:
“Um programa de computador não é capaz de atuar como principal ou agente segundo o common law. Atualmente, programas de computador são instrumentos das pessoas que os utilizam. Se um programa apresentar mau funcionamento, mesmo de formas não previstas por seu criador ou usuário, as consequências jurídicas para quem o utiliza não diferem das decorrentes do mau funcionamento de qualquer outro instrumento.”
Da Babilônia a Amsterdã e à Colúmbia Britânica, ao longo de muitos séculos e em pelo menos duas tradições jurídicas distintas, a conclusão permanece a mesma: algo incapaz de assumir obrigações morais – seja um golem ou um programa de computador – também não pode assumir deveres jurídicos. Essas entidades são instrumentos da pessoa que escolhe utilizá-las ou colocá-las no mundo. Quem as envia continua responsável por suas ações.
VEJA TAMBÉM:
A proibição do papa Leão
Embora as autoridades citadas sejam claras ao afirmar que os seres humanos são responsáveis pelos golems que colocam em circulação, o papa Leão XIV vai muito além, proibindo completamente os golems letais. Em Magnifica humanitas, ele escreve que “não é permitido confiar decisões letais ou irreversíveis a sistemas artificiais”.
Trata-se de um afastamento significativo da tradição rabínica e das doutrinas do common law. Ambas atribuem as consequências de um instrumento autônomo à pessoa que o colocou em ação, mas deixam essa pessoa livre para fazê-lo. O rabino pode criar seu golem, sabendo que responderá por seus atos. O comandante pode empregar seu Switchblade, sabendo o mesmo. Se o golem cometer um erro, a lei atribuirá a responsabilidade a posteriori.
A encíclica, porém, proíbe categoricamente armas autônomas. Se Leão estiver correto, então tanto o rabino que cria um golem letal quanto o comandante que emprega um Switchblade já cometeram algo errado antes mesmo que alguém seja ferido. Mas essa lógica parece criar um paradoxo. Segundo os defensores dessa proibição, armas controladas por IA aplicariam as leis dos conflitos armados de forma mais confiável que soldados cansados ou assustados. E, em seus próprios termos, essa afirmação pode ser verdadeira.
A proibição papal também cria dúvidas sobre outros instrumentos guiados por IA. Carros autônomos, por exemplo, são instrumentos potencialmente letais que se deslocam com muito mais força que uma bala. Dados iniciais sugerem que esses recursos salvam vidas. Da mesma forma, consideremos o CyberKnife, um sistema de radioterapia guiado por IA para tratar tumores cancerígenos. Destruir um tumor é, espera-se, uma decisão irreversível. Qual é o princípio que distingue uma IA que direciona radiação para um tumor de uma IA que direciona um míssil para uma célula terrorista?
Os seres humanos continuam responsáveis por seus golems
A tradição talmúdica e rabínica diverge da mais recente encíclica, e essa divergência evidencia um paradoxo na lógica papal. O argumento mais forte de Leão XIV – a proibição categórica do uso da IA para tomar “decisões letais ou irreversíveis” – exige uma distinção mais fundamentada entre o Switchblade e o CyberKnife. Até que esse princípio seja claramente estabelecido, prevalece uma doutrina mais antiga e mais simples: nenhuma tecnologia é intrinsecamente proibida, mas quem a coloca em ação assume plena responsabilidade moral por seus atos.
Seth C. Oranburg é professor na Escola de Direito da Universidade Católica da América, onde também é diretor do Programa de Direito e Empreendedorismo.
©2026 The Public Discourse. Publicado com permissão. Original em inglês: AI, Magnifica Humanitas, and the Law of the Golem
