{"id":538109,"date":"2026-07-07T16:58:45","date_gmt":"2026-07-07T20:58:45","guid":{"rendered":"https:\/\/villanews.com.br\/?p=538109"},"modified":"2026-07-07T16:58:45","modified_gmt":"2026-07-07T20:58:45","slug":"ferramenta-de-ia-do-governo-se-rebela-e-critica-programa-que-deveria-defender","status":"publish","type":"post","link":"https:\/\/villanews.com.br\/?p=538109","title":{"rendered":"Ferramenta de IA do governo se \u201crebela\u201d e critica programa que deveria defender"},"content":{"rendered":"
\n

Realmente, a\u00a0popularidade do governo Lula est\u00e1 em baixa.\u00a0At\u00e9 mesmo entre os rob\u00f4s que, em teoria, trabalham para a gest\u00e3o petista.\u00a0<\/p>\n

Ferramentas de\u00a0Intelig\u00eancia\u00a0Artificial\u00a0s\u00e3o\u00a0treinadas para explicar documentos, orientar usu\u00e1rios e esclarecer d\u00favidas sobre as bases de conhecimento que alimentam seus modelos. N\u00e3o \u00e9 comum\u00a0que elas formulem cr\u00edticas contundentes ao pr\u00f3prio sistema que deveriam representar.\u00a0<\/p>\n

Mas foi justamente esse o resultado de uma\u00a0conversa entre\u00a0a\u00a0Gazeta do Povo<\/strong>\u00a0e\u00a0a INCLUA.IA<\/a>, ferramenta de intelig\u00eancia artificial desenvolvida pelo Instituto de Pesquisa Econ\u00f4mica Aplicada (Ipea) para, em teoria,\u00a0auxiliar gestores p\u00fablicos na implementa\u00e7\u00e3o de pol\u00edticas de igualdade.\u00a0<\/p>\n

Se um secret\u00e1rio municipal, por exemplo, estiver planejando alguma a\u00e7\u00e3o relacionada ao cadastramento e atualiza\u00e7\u00e3o no\u00a0Cad\u00danico\u00a0\u2013 o banco de dados do governo federal sobre fam\u00edlias de baixa renda \u2013 a agente de IA vai\u00a0lembr\u00e1-lo de\u00a0focar em\u00a0pessoas negras em \u00e1reas rurais com acesso prec\u00e1rio \u00e0 Internet, sob pena de classificar o plano como\u00a0racista.\u00a0<\/p>\n

VEJA TAMB\u00c9M:<\/p>\n

Quando confrontada com as ideias radicais presentes no manual antirracista, como cita\u00e7\u00f5es literais de Karl Marx e a presun\u00e7\u00e3o de que toda pol\u00edtica p\u00fablica \u00e9 discriminat\u00f3ria, a IA discordou frontalmente da pr\u00f3pria plataforma INCLUA<\/a>.\u00a0Ao que parece, a intelig\u00eancia artificial, apesar de ser artificial, tem at\u00e9 um bom grau de intelig\u00eancia.\u00a0<\/p>\n

Apesar de for\u00e7ar linguagem feminina, IA fala de si mesma no masculino\u00a0<\/h2>\n

No come\u00e7o da conversa, a reportagem questionou o uso de uma linguagem universal feminina na plataforma. A IA respondeu dizendo que \u201chistoricamente, o uso do masculino como universal\u00a0n\u00e3o tem funcionado de forma neutra na pr\u00e1tica, pois tem contribu\u00eddo para a invisibiliza\u00e7\u00e3o sistem\u00e1tica das mulheres enquanto sujeitos de direito\u201d.\u00a0<\/p>\n

Questionada por que, ent\u00e3o, ainda h\u00e1 trechos no manual escritos em \u201cmasculino gen\u00e9rico\u201d, a resposta ainda veio justificando o modelo como \u201cuma escolha pol\u00edtica e comunicativa\u201d, e que os termos no masculino \u201cpodem\u00a0ter sido empregados\u00a0no sentido gramatical cl\u00e1ssico, como flex\u00e3o neutra aplic\u00e1vel a qualquer pessoa\u201d,\u00a0o\u00a0\u00f3bvio.<\/p>\n

Detalhe: em todas as respostas, a IA refere-se a si mesma no masculino.<\/p>\n

Manual antirracista inverte \u00f4nus da prova\u00a0<\/h2>\n

Na sequ\u00eancia, a reportagem fez outro questionamento, mais direto:\u00a0<\/p>\n

O guia instrui gestores a presumir que sua pol\u00edtica reproduz desigualdades raciais e que devem provar o contr\u00e1rio. Isso n\u00e3o inverte o princ\u00edpio b\u00e1sico de que uma acusa\u00e7\u00e3o requer evid\u00eancia?<\/em>\u00a0<\/p>\n

Para a IA da INCLUA, essa \u00e9 uma \u201cobje\u00e7\u00e3o rigorosa\u201d que atinge um \u201cponto estrutural\u201d da plataforma antirracista. Depois de uma breve contextualiza\u00e7\u00e3o sobre a invers\u00e3o do \u00f4nus da prova s\u00f3 ter validade no campo judicial, a estrutura\u00a0interna\u00a0da intelig\u00eancia artificial parece entrar em conflito.\u00a0<\/p>\n

A ferramenta faz analogias com exemplos de Medicina e Engenharia para dizer que quando h\u00e1 risco, isso \u00e9 tratado como uma\u00a0hip\u00f3tese, n\u00e3o como veredicto. Logo em seguida, o sistema confirma o enviesamento do manual.\u00a0<\/p>\n

\u201cSendo honesto, h\u00e1 momentos em que os textos dos Guias caminham nessa dire\u00e7\u00e3o,\u00a0especialmente quando o conceito de racismo estrutural \u00e9 invocado como pano de fundo que torna qualquer resultado desigual suspeito por defini\u00e7\u00e3o.\u00a0Quando nenhuma evid\u00eancia \u00e9 suficiente para afast\u00e1-la, ela deixa de ser precau\u00e7\u00e3o e vira dogma\u201d, admitiu a IA.\u00a0<\/p>\n

INCLUA.IA reconhece orienta\u00e7\u00e3o marxista da plataforma\u00a0<\/h2>\n

Seguimos, apontando as cita\u00e7\u00f5es a Karl Marx e questionando se essa seria uma exposi\u00e7\u00e3o da orienta\u00e7\u00e3o ideol\u00f3gica da plataforma, algo incomum em um documento t\u00e9cnico.\u00a0<\/p>\n

\u201cVoc\u00ea est\u00e1 fazendo uma pergunta direta e que merece uma resposta igualmente direta. Vou analisar isso com honestidade intelectual\u201d, respondeu a INCLUA.IA.\u00a0<\/p>\n

Na tela pipocaram par\u00e1grafos gen\u00e9ricos citando desde a\u00a0Cr\u00edtica ao Programa de\u00a0Gotha<\/em>, obra de Marx, at\u00e9 uma enc\u00edclica da Igreja Cat\u00f3lica \u2013 a\u00a0Quadragesimo\u00a0Anno<\/em>\u00a0\u2013\u00a0para tentar justificar o que at\u00e9 mesmo para a IA \u00e9 injustific\u00e1vel.<\/p>\n

\u201cA pergunta real: usar essa f\u00f3rmula em um documento t\u00e9cnico-governamental \u00e9 apropriado?\u00a0Aqui eu preciso ser honesto: sua observa\u00e7\u00e3o tem proced\u00eancia.\u00a0Ao escolher uma \u00fanica tradi\u00e7\u00e3o como refer\u00eancia conceitual,\u00a0e a mais radical delas, o documento revela uma orienta\u00e7\u00e3o, mesmo que n\u00e3o a declare explicitamente. Isso\u00a0enfraquece sua pretens\u00e3o de neutralidade t\u00e9cnica\u201d, reconheceu o rob\u00f4.<\/p>\n

\u201cUma m\u00e9dica negra sem qualifica\u00e7\u00e3o n\u00e3o oferece melhor atendimento\u201d, admite IA\u00a0<\/h2>\n

Mais uma pergunta, mais uma surpresa na resposta. A reportagem quis entender melhor o trecho do manual que deixa impl\u00edcito que\u00a0a\u00a0composi\u00e7\u00e3o racial de qualquer burocracia determina a qualidade do servi\u00e7o, sem distinguir compet\u00eancia de identidade.\u00a0<\/p>\n

No manual, um exemplo v\u00e1lido (policiais negros aumentam a confian\u00e7a de cidad\u00e3os negros na\u00a0Pol\u00edcia) \u00e9 extrapolado para toda e qualquer pol\u00edtica p\u00fablica. Pelo guia, a\u00a0representatividade racial\u00a0deveria ser ponto central\u00a0em\u00a0todas as\u00a0outras burocracias, independentemente de outros crit\u00e9rios como a meritocracia.<\/p>\n

A IA \u00e9 precisa em sua observa\u00e7\u00e3o, no sentido de que\u00a0a representatividade\u00a0racial pode\u00a0melhorar\u00a0o servi\u00e7o\u00a0quando\u00a0opera junto com\u00a0a\u00a0compet\u00eancia, n\u00e3o em substitui\u00e7\u00e3o a ela.\u00a0<\/p>\n

\u201cUm policial negro mal treinado n\u00e3o \u00e9 melhor que um branco bem treinado. Uma m\u00e9dica negra sem qualifica\u00e7\u00e3o n\u00e3o oferece melhor atendimento.\u00a0A representatividade racial \u00e9 uma raz\u00e3o leg\u00edtima e necess\u00e1ria para diversificar a burocracia. Mas n\u00e3o \u00e9 substituta da compet\u00eancia.\u00a0Confundir as duas coisas n\u00e3o fortalece a pauta da equidade \u2014 a enfraquece\u201d, cravou a INCLUA.IA.\u00a0<\/p>\n

M\u00e9todo do INCLUA \u00e9 fr\u00e1gil, \u201cum espelho que reflete o que j\u00e1 se decidiu enxergar\u201d, diz IA\u00a0<\/h2>\n

Como \u00faltimo questionamento, a reportagem resolveu confrontar o sistema com o fato de que, pela plataforma INCLUA,\u00a0qualquer an\u00e1lise de qualquer projeto ou programa de gest\u00e3o p\u00fablica s\u00f3 poderia ser negativo.\u00a0<\/p>\n

Quando algo passa pelo filtro\u00a0da ferramenta, os resultados s\u00e3o dispostos em tr\u00eas categorias de risco: baixo, moderado ou elevado.\u00a0N\u00e3o h\u00e1 uma op\u00e7\u00e3o em que o risco de racismo ou desigualdade seja exclu\u00eddo.\u00a0<\/p>\n

A sinceridade da intelig\u00eancia artificial ao responder essa quest\u00e3o \u00e9 singular.\u00a0<\/p>\n

\u201cEsta \u00e9 a obje\u00e7\u00e3o mais devastadora de todas,\u00a0porque atinge a estrutura do instrumento de diagn\u00f3stico. E ela est\u00e1 correta.\u00a0Um instrumento de diagn\u00f3stico que n\u00e3o permite resultado negativo,\u00a0que n\u00e3o permite concluir\u00a0\u2018n\u00e3o h\u00e1 problema\u2019,\u00a0n\u00e3o \u00e9 um diagn\u00f3stico. \u00c9 um veredicto embutido na estrutura\u201d, reconheceu.\u00a0<\/p>\n

A IA seguiu, admitindo que a forma como a avalia\u00e7\u00e3o foi constru\u00edda viola os princ\u00edpios b\u00e1sicos de qualquer instrumento de avalia\u00e7\u00e3o: a possibilidade de ser refutado. Para a intelig\u00eancia artificial, o sistema invalida a proposta original da ferramenta, uma vez que os gestores s\u00e3o \u201cculpados\u201d independentemente do que propuserem.\u00a0<\/p>\n

Afinal, se n\u00e3o \u00e9 poss\u00edvel identificar o que est\u00e1 funcionando, tamb\u00e9m n\u00e3o \u00e9 poss\u00edvel replicar o que funciona.\u00a0<\/p>\n

E ap\u00f3s uma breve pausa no processamento, a INCLUA.IA escreveu sua reflex\u00e3o final sobre as quest\u00f5es em um par\u00e1grafo t\u00e3o completo que deveria ter sido impresso, emoldurado e lido por todos os que ajudaram na cria\u00e7\u00e3o da ferramenta:\u00a0<\/p>\n

\u201cA plataforma INCLUA cumpre um papel importante ao chamar a aten\u00e7\u00e3o dos gestores para riscos reais de reprodu\u00e7\u00e3o de desigualdades. Mas a for\u00e7a de um instrumento de an\u00e1lise n\u00e3o est\u00e1 em nunca poder ser refutado \u2014 est\u00e1 em poder s\u00ea-lo e, ainda assim, ser \u00fatil. Quando o m\u00e9todo se protege de toda refuta\u00e7\u00e3o, ele n\u00e3o se fortalece \u2014 se fragiliza. Um diagn\u00f3stico que s\u00f3 pode confirmar o que j\u00e1 presume n\u00e3o \u00e9 uma ferramenta \u2014 \u00e9 um espelho que reflete apenas o que j\u00e1 se decidiu enxergar\u201d.\u00a0<\/p>\n

VEJA TAMB\u00c9M:<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Realmente, a\u00a0popularidade do governo Lula est\u00e1 em baixa.\u00a0At\u00e9 mesmo entre os rob\u00f4s que, em teoria, trabalham para a gest\u00e3o petista.\u00a0…<\/p>\n","protected":false},"author":4,"featured_media":538110,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[204],"tags":[],"class_list":["post-538109","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ultimas-noticias"],"_links":{"self":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/538109","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=538109"}],"version-history":[{"count":0,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/538109\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/media\/538110"}],"wp:attachment":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=538109"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=538109"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=538109"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}