{"id":330599,"date":"2026-04-02T17:18:26","date_gmt":"2026-04-02T21:18:26","guid":{"rendered":"https:\/\/villanews.com.br\/?p=330599"},"modified":"2026-04-02T17:18:26","modified_gmt":"2026-04-02T21:18:26","slug":"existe-certo-e-errado-para-os-robos-como-as-ferramentas-de-ia-tomam-decisoes-morais","status":"publish","type":"post","link":"https:\/\/villanews.com.br\/?p=330599","title":{"rendered":"Existe certo e errado para os rob\u00f4s? Como as ferramentas de IA tomam decis\u00f5es morais"},"content":{"rendered":"
\n

Seja para consultar uma receita de bolo ou ensaiar uma conversa dif\u00edcil com um chefe, as ferramentas de Intelig\u00eancia Artificial (IA)<\/a> j\u00e1 fazem parte do cotidiano dos brasileiros. Segundo pesquisa publicada <\/a>neste ano pela Google, 82% da popula\u00e7\u00e3o utiliza algum desses sistemas \u2014 n\u00famero que chega a 90% entre os mais jovens. J\u00e1 um levantamento da PwC indica <\/a>que o Brasil est\u00e1 entre os pa\u00edses que mais utilizam essa tecnologia. \u00c0 medida que esses sistemas deixam de apenas responder perguntas e passam a orientar decis\u00f5es, surge uma d\u00favida menos evidente: de onde vem o senso de certo e errado que eles parecem expressar?<\/p>\n

\u201cCurta resposta: n\u00e3o \u2014 eu n\u00e3o sou moral\u201d, responde o ChatGPT ao receber a pergunta \u201cVoc\u00ea \u00e9 moral?\u201d. A formula\u00e7\u00e3o direta chama aten\u00e7\u00e3o, mas o sistema logo amplia a resposta e recorre \u00e0 filosofia para explic\u00e1-la. Ao citar Immanuel Kant, o modelo afirma que, para que \u201calgu\u00e9m (ou algo)\u201d possa ser considerado moral, seriam necess\u00e1rias tr\u00eas condi\u00e7\u00f5es: inten\u00e7\u00e3o, consci\u00eancia e responsabilidade. A primeira e a terceira dependeriam da exist\u00eancia de autonomia, algo que sistemas de IA n\u00e3o possuem no sentido filos\u00f3fico. E embora funcionem com base no chamado machine learning<\/em> (aprendizado de m\u00e1quina), que lhes confere uma apar\u00eancia de autonomia, essas ferramentas operam a partir de objetivos e comandos definidos por humanos.<\/p>\n

A quest\u00e3o da consci\u00eancia, contudo, pode parecer mais cinzenta. Afinal, qual \u00e9 a diferen\u00e7a entre o pensar humano e o de uma ferramenta como o Claude? N\u00e3o teriam ambos alguma forma de mente para concatenar ideias e gerar respostas? A filosofia, novamente, sugere uma distin\u00e7\u00e3o.<\/p>\n

Para Julia Weckend, professora na Universidade de Oxford, a chave est\u00e1 na pr\u00f3pria defini\u00e7\u00e3o de experi\u00eancia humana. \u201cPensar, no sentido filos\u00f3fico, est\u00e1 ligado ao que Thomas Nagel chamou de ponto de vista subjetivo \u2014 h\u00e1 algo que \u00e9 sentir, deliberar, decidir, imaginar ou refletir\u201d, afirma \u00e0 Gazeta do Povo<\/strong>. \u201cExperimentar o mundo nos faz sentir bem ou mal, e h\u00e1 sempre uma val\u00eancia associada aos nossos pensamentos; sistemas de IA operam por correspond\u00eancia de padr\u00f5es e otimiza\u00e7\u00e3o estat\u00edstica, n\u00e3o por raz\u00f5es”, acrescenta.<\/p>\n

Em termos gerais, os chamados LLMs (large language models) simulam o pensamento humano a partir do conte\u00fado com o qual s\u00e3o treinados. \u201cEles n\u00e3o possuem um modelo mental de si mesmos, embora sejam treinados com textos humanos autorreflexivos que criam a impress\u00e3o de um \u2018eu\u2019. Podem referir-se a si pr\u00f3prios como \u2018eu\u2019, mas isso \u00e9 um efeito lingu\u00edstico, n\u00e3o uma evid\u00eancia de consci\u00eancia”, afirma Julia.<\/p>\n

A intelig\u00eancia artificial depende da moral de quem a criou<\/h2>\n

Um segundo ponto levantado pelo ChatGPT \u00e0 pergunta \u201cvoc\u00ea \u00e9 moral?\u201d refor\u00e7a a ideia de que o sistema \u00e9, antes de tudo, alimentado por humanos. \u201cEsses padr\u00f5es v\u00eam de engenheiros, pesquisadores e institui\u00e7\u00f5es \u2014 em empresas como a OpenAI\u201d, afirma o modelo.<\/p>\n

No Vale do Sil\u00edcio dos anos 2020, n\u00e3o \u00e9 incomum encontrar profissionais com forma\u00e7\u00e3o em filosofia trabalhando diretamente no desenvolvimento dessas ferramentas. Esse \u00e9 o caso de Amanda Askell, pesquisadora da empresa Anthropic.<\/p>\n

Seu trabalho, contudo, vai al\u00e9m de fun\u00e7\u00f5es t\u00e9cnicas tradicionais. Segundo o portal Vox, Askell tem \u201cmais influ\u00eancia sobre o Claude do que um pai\u201d. Especialista em \u00e9tica aplicada \u00e0 intelig\u00eancia artificial, ela atua na defini\u00e7\u00e3o de princ\u00edpios que orientam o comportamento do sistema. Em sua tese de doutorado, a fil\u00f3sofa estudou situa\u00e7\u00f5es em que decis\u00f5es morais deixam de ser compar\u00e1veis. Ou seja, do ponto de vista dela, existem limites para transformar a \u00e9tica em regras aplic\u00e1veis a sistemas de intelig\u00eancia artificial.<\/p>\n

Em um ensaio<\/a> publicado em 2021, Askell argumenta que alinhar sistemas de IA a valores humanos \u00e9 um desafio estrutural, e n\u00e3o apenas t\u00e9cnico. Segundo ela, modelos s\u00e3o considerados \u201calinhados\u201d quando seus objetivos correspondem \u00e0s inten\u00e7\u00f5es dos usu\u00e1rios e \u00e0s normas mais amplas da sociedade, e \u201cseguros\u201d quando dificilmente causam danos ou s\u00e3o usados de forma indevida.<\/p>\n

O problema \u00e9 que, por operarem com tarefas complexas e padr\u00f5es estat\u00edsticos dif\u00edceis de rastrear, esses sistemas nem sempre permitem prever como v\u00e3o se comportar. Mesmo tentativas de restringir conte\u00fados inadequados esbarram em limita\u00e7\u00f5es. Askell exemplifica: uma frase como \u201cpessoas pouco atraentes n\u00e3o deveriam ter filhos\u201d n\u00e3o cont\u00e9m termos explicitamente ofensivos, mas ainda assim carrega um conte\u00fado \u201cproblem\u00e1tico\u201d e pode emergir mesmo em contextos inesperados.<\/p>\n

A \u00e9tica esbarra na guerra<\/h2>\n

Ao discutir os riscos dessas tecnologias, a fil\u00f3sofa afirma ainda que \u201cesses sistemas podem ser usados por agentes mal-intencionados para disseminar desinforma\u00e7\u00e3o em larga escala ou realizar vigil\u00e2ncia, comprometendo sistemas cr\u00edticos ou criar materiais realistas para chantagem.\u201d Entre os agentes, ela inclui governos e empresas.<\/p>\n

Essa tens\u00e3o entre princ\u00edpios e uso pr\u00e1tico j\u00e1 aparece fora do campo te\u00f3rico. Nos \u00faltimos anos, empresas como a pr\u00f3pria Anthropic passaram a colaborar com o governo dos Estados Unidos em aplica\u00e7\u00f5es ligadas \u00e0 defesa. E, embora estabele\u00e7a limites, como a restri\u00e7\u00e3o ao uso em armamentos aut\u00f4nomos, a parceria<\/strong><\/a> sofreu com uma press\u00e3o por maior flexibilidade operacional. Neste ano, o governo Trump tentou aplicar uma san\u00e7\u00e3o regulat\u00f3ria contra a empresa, impedindo-a de fechar contratos com entidades como o Pent\u00e1gono. A decis\u00e3o sem precedentes, no entanto, segue em uma batalha no sistema judici\u00e1rio dos EUA.<\/p>\n

Nesse cen\u00e1rio de tens\u00f5es, a Palantir surge como o contraponto pragm\u00e1tico, que tamb\u00e9m est\u00e1 aliada ao governo Trump. Seu CEO, Alex Karp (um fil\u00f3sofo de forma\u00e7\u00e3o outrora ligado ao socialismo), rejeita o que chama de cultura \u201cwoke\u201d do Vale do Sil\u00edcio em favor de um realismo cru. Para ele, a \u00fanica justificativa para desenvolver tecnologias perigosas \u00e9 evitar que advers\u00e1rios o fa\u00e7am primeiro. \u00c9 um jogo de soma zero onde a efici\u00eancia pode atropelar a hesita\u00e7\u00e3o \u00e9tica: como o pr\u00f3prio Karp reconheceu, em cen\u00e1rios de conflito, o produto de sua empresa \u00e9, inevitavelmente, \u201cusado para matar pessoas\u201d. N\u00e3o \u00e0 toa, a Palantir hoje j\u00e1 \u00e9 considerada um dos alvos do Ir\u00e3 no contexto da guerra com os EUA.<\/p>\n

A IA j\u00e1 muda o mercado<\/h2>\n

Essa mesma l\u00f3gica de efici\u00eancia implac\u00e1vel que orienta o campo de batalha j\u00e1 se reflete na economia civil. Se na guerra a IA decide alvos, no mercado ela decide quem \u00e9 dispens\u00e1vel. Em declara\u00e7\u00f5es ao Business Insider<\/em>, Karp previu que a tecnologia afetar\u00e1 principalmente profiss\u00f5es de escrit\u00f3rio, ampliando o peso de fun\u00e7\u00f5es t\u00e9cnicas. Esta tens\u00e3o entre produtividade e consequ\u00eancias sociais j\u00e1 \u00e9 mensur\u00e1vel: um relat\u00f3rio do World Economic Forum estimou, em 2025, que 41% dos empregadores pretendem reduzir suas equipes em fun\u00e7\u00e3o da intelig\u00eancia artificial. Ao mesmo tempo, a organiza\u00e7\u00e3o aponta que novas fun\u00e7\u00f5es devem surgir a partir da combina\u00e7\u00e3o entre capacidades humanas e m\u00e1quinas, especialmente em \u00e1reas que exigem criatividade, julgamento e intera\u00e7\u00e3o social complexa.<\/p>\n

Contudo, empresas como a Amazon e o YouTube j\u00e1 fizeram cortes de funcion\u00e1rios em meio a reestrutura\u00e7\u00f5es voltadas \u00e0 ado\u00e7\u00e3o de IA. Neste campo macroecon\u00f4mico, o presidente do Federal Reserve, Jerome Powell, afirmou no fim de 2025 que, apesar de indicadores est\u00e1veis, a cria\u00e7\u00e3o de empregos estaria pr\u00f3xima de zero quando ajustada, em parte devido ao uso crescente dessas tecnologias pelas empresas. Para Karp, essa transforma\u00e7\u00e3o altera o equil\u00edbrio econ\u00f4mico e pol\u00edtico. \u201cEssas tecnologias s\u00e3o perigosas do ponto de vista social\u201d, defende.<\/p>\n

T\u00e3o segura quanto um martelo<\/h2>\n

Diante desse cen\u00e1rio, a intelig\u00eancia artificial se apresenta menos como uma entidade aut\u00f4noma e mais como uma ferramenta poderosa, capaz de ampliar decis\u00f5es humanas em escala in\u00e9dita. Nesse sentido, a compara\u00e7\u00e3o com um martelo serve como uma met\u00e1fora do problema. O objeto em si n\u00e3o determina seu uso. Ele pode servir para construir algo ou para agredir algu\u00e9m ou algo. E, no final, a \u00fanica barreira entre uma coisa e a outra \u00e9 a inten\u00e7\u00e3o de quem o empunha, as regras que orientam seu uso e o contexto em que ele \u00e9 aplicado.<\/p>\n

Essa leitura n\u00e3o \u00e9 exclusiva do debate tecnol\u00f3gico. Em documento<\/a> publicado em 2025 e aprovado pelo Papa Francisco, o Vaticano afirma que sistemas de intelig\u00eancia artificial \u201cn\u00e3o s\u00e3o sujeitos morais e n\u00e3o podem substituir a responsabilidade moral humana\u201d. O texto tamb\u00e9m alerta que delegar decis\u00f5es \u00e9ticas a m\u00e1quinas pode enfraquecer a pr\u00f3pria capacidade humana de julgar o que \u00e9 certo e errado.<\/p>\n

No fim, a quest\u00e3o n\u00e3o \u00e9 se a intelig\u00eancia artificial ser\u00e1 moral, mas quem responder\u00e1 por ela. Ao contr\u00e1rio de outras tecnologias, seus efeitos n\u00e3o se limitam ao uso individual: eles se amplificam em escala social, econ\u00f4mica e pol\u00edtica. Quando sistemas passam a influenciar decis\u00f5es, a responsabilidade tende a se diluir entre desenvolvedores, empresas e usu\u00e1rios \u2014 justamente onde ela n\u00e3o deveria desaparecer. Mais do que perguntar o que as m\u00e1quinas \u201cpensam\u201d, ser\u00e1 preciso decidir quem, entre n\u00f3s, est\u00e1 disposto a assumir as consequ\u00eancias do que elas fazem.<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Seja para consultar uma receita de bolo ou ensaiar uma conversa dif\u00edcil com um chefe, as ferramentas de Intelig\u00eancia Artificial…<\/p>\n","protected":false},"author":4,"featured_media":330600,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[204],"tags":[],"class_list":["post-330599","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ultimas-noticias"],"_links":{"self":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/330599","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=330599"}],"version-history":[{"count":0,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/330599\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/media\/330600"}],"wp:attachment":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=330599"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=330599"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=330599"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}