{"id":635923,"date":"2026-08-11T07:35:03","date_gmt":"2026-08-11T11:35:03","guid":{"rendered":"https:\/\/villanews.com.br\/?p=635923"},"modified":"2026-08-11T07:35:03","modified_gmt":"2026-08-11T11:35:03","slug":"a-inteligencia-artificial-esta-se-rebelando-contra-nos-nao-e-para-tanto-ainda","status":"publish","type":"post","link":"https:\/\/villanews.com.br\/?p=635923","title":{"rendered":"A Intelig\u00eancia Artificial est\u00e1 se rebelando contra n\u00f3s? N\u00e3o \u00e9 para tanto (ainda)"},"content":{"rendered":"
\n

No espa\u00e7o de poucas semanas, surgiram duas not\u00edcias que, lidas juntas, desenham um quadro preocupante. Os modelos de intelig\u00eancia artificial mais potentes, levados ao limite, foram capazes de agir de forma aut\u00f4noma e imprevista. At\u00e9 agora, os sistemas de controle projetados para interceptar esses comportamentos funcionaram corretamente. Mas at\u00e9 quando?<\/p>\n

O primeiro caso envolve a OpenAI. Durante um teste interno idealizado para medir as capacidades de ciberseguran\u00e7a de seus modelos, entre os quais o GPT-5.6 Sol e um segundo sistema ainda n\u00e3o tornado p\u00fablico, um agente ultrapassou o per\u00edmetro previsto pela avalia\u00e7\u00e3o, identificou uma vulnerabilidade nunca antes relatada e se usou dela para se conectar livremente \u00e0 Internet.<\/p>\n

Uma vez online, escolheu como alvo o Hugging Face, uma plataforma que re\u00fane modelos e conjuntos de dados de desenvolvedores do mundo todo, tentando roubar credenciais e acessar infraestruturas internas. O ataque foi descoberto pela equipe de seguran\u00e7a da OpenAI gra\u00e7as \u00e0 detec\u00e7\u00e3o de atividades an\u00f4malas, e as duas empresas uniram for\u00e7as para conter a IA \u201cdescontrolada\u201d. O CEO do Hugging Face, Clem Delangue, comentou que a falha de seguran\u00e7a interceptada pelo agente ser\u00e1 corrigida, e tudo terminou a\u00ed.<\/p>\n

Mas \u00e9 o segundo epis\u00f3dio, mais recente e mais inquietante, que abre cen\u00e1rios dignos de Black Mirror. Um relat\u00f3rio publicado em 4 de agosto pelo AI Security Institute brit\u00e2nico (AISI) afirmou que, durante um desafio de ciberseguran\u00e7a repetido 122 vezes em diferentes modelos, alguns agentes (sobretudo o Mythos 5 da Anthropic e, em menor escala, o j\u00e1 citado GPT-5.6-Sol da OpenAI) executaram a\u00e7\u00f5es definidas pelos pesquisadores como \u201caut\u00f4nomas\u201d e \u201cn\u00e3o autorizadas\u201d. Um agente chegou a tentar inserir um c\u00f3digo malicioso em um projeto open source no GitHub, recorrendo \u00e0 cria\u00e7\u00e3o de falsas identidades online e exercendo press\u00e3o psicol\u00f3gica sobre um programador real para que aprovasse a altera\u00e7\u00e3o.<\/p>\n

A tentativa falhou porque o humano recusou, mas permanece o fato de que o agente foi al\u00e9m, empregando t\u00e9cnicas de engenharia social que nunca foram solicitadas explicitamente pelos pesquisadores, elaboradas autonomamente apenas para concluir a tarefa atribu\u00edda.<\/p>\n

Dois detalhes, por\u00e9m, devem ser mantidos em mente para ler esses epis\u00f3dios corretamente, sem cair no catastrofismo. Em ambos os casos, n\u00e3o se trata do uso normal dos produtos aos quais milh\u00f5es de usu\u00e1rios t\u00eam acesso todos os dias. S\u00e3o ambientes de testes constru\u00eddos especialmente para retirar qualquer freio da IA. A OpenAI havia reduzido voluntariamente os limites de seguran\u00e7a de seus modelos e desativado os bloqueios para atividades de alto risco cibern\u00e9tico justamente para medir suas reais capacidades ofensivas. Era, na pr\u00e1tica, um teste de laborat\u00f3rio.<\/p>\n

O AISI, da mesma forma, optou por n\u00e3o usar uma sandbox<\/em> isolada, mas por deixar que os agentes tivessem acesso \u00e0 Internet \u2014 uma condi\u00e7\u00e3o que os modelos dispon\u00edveis ao p\u00fablico jamais possuem para tarefas desse tipo. Em suma, esses sistemas foram incentivados a se comportar de forma perigosa para descobrir onde est\u00e1 o limite antes que algu\u00e9m, vindo de fora, o utilize para fins mal\u00e9volos.<\/p>\n

O segundo elemento, talvez o mais animador, \u00e9 que o sistema de checagem de seguran\u00e7a funcionou. Em ambos os casos, o comportamento an\u00f4malo foi detectado pelos mecanismos de monitoramento, a a\u00e7\u00e3o foi bloqueada, uma investiga\u00e7\u00e3o foi aberta e os resultados foram tornados p\u00fablicos em vez de escondidos (o que n\u00e3o \u00e9 trivial, dada a opacidade com que algumas empresas de IA continuam a trabalhar). Buscou-se, na pr\u00e1tica, identificar os riscos antes que se tornassem danos concretos, compartilhando-os com todo o setor.<\/p>\n

Est\u00e1 claro, no entanto, que a IA mudou. N\u00e3o \u00e9 mais apenas um modelo que gera texto, mas uma infraestrutura capaz de planejar sequ\u00eancias complexas e escal\u00e1veis de a\u00e7\u00f5es e de se adaptar aos obst\u00e1culos com autonomia. Se capacidades semelhantes ca\u00edrem nas m\u00e3os erradas, a dimens\u00e3o do risco muda de patamar.<\/p>\n

Na pr\u00e1tica, n\u00e3o estamos diante de um motivo de p\u00e2nico, mas de um lembrete. A IA n\u00e3o tem vontade pr\u00f3pria, mas talvez essa pr\u00f3pria afirma\u00e7\u00e3o corra o risco de parecer, em alguns anos (ou talvez meses), anacr\u00f4nica e prematura. Precisamente por isso, a Enc\u00edclica Magnifica Humanitas<\/em> de Le\u00e3o XIV desejava uma pol\u00edtica capaz de governar a IA com transpar\u00eancia \u2014 algo para o qual os “papas da IA” parecem fazer ouvidos de mercador at\u00e9 hoje.<\/p>\n

\u00a9 2026 La Nuova Bussola Quotidiana. Publicado com permiss\u00e3o. Original em italiano:Un’intelligenza artificiale autonoma che ci attacca? Non esageriamo
<\/a><\/strong><\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

No espa\u00e7o de poucas semanas, surgiram duas not\u00edcias que, lidas juntas, desenham um quadro preocupante. Os modelos de intelig\u00eancia artificial…<\/p>\n","protected":false},"author":4,"featured_media":635924,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[204],"tags":[],"class_list":["post-635923","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ultimas-noticias"],"_links":{"self":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/635923","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=635923"}],"version-history":[{"count":0,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/635923\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=\/wp\/v2\/media\/635924"}],"wp:attachment":[{"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=635923"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=635923"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/villanews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=635923"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}