VILLA NEWS

“O que chamamos de poder do Homem sobre a Natureza se revela como um poder exercido por alguns homens sobre outros, com a Natureza como instrumento.” (C.S. Lewis)

Muitos ainda não perceberam, mas os avanços da inteligência artificial (IA) estão surpreendentes – e, em certo sentido, assustadores. Os sistemas mais modernos deixaram de apenas responder perguntas para atuar como agentes autônomos, capazes de planejar, executar e revisar tarefas complexas sem supervisão constante. Ao mesmo tempo, a IA vem mudando completamente o desenvolvimento de softwares – causando desespero em programadores –, escrevendo grandes quantidades de código a partir de prompts (vibe coding), realizando pesquisas científicas assistidas e integrando texto, voz, imagem e vídeo em um único sistema. Em alguns casos mais avançados, ela já contribui para o desenvolvimento da próxima geração de modelos, inaugurando um ciclo de inovação tecnológica sem precedentes.

Dias atrás, conversando com um colega de trabalho, refletíamos sobre como algumas atividades vão desaparecer e como outras vão se alterar completamente; de como vamos, por um lado, ganhar em produtividade, mas, por outro, muitos ficarão sem emprego caso não consigam encontrar maneiras de não se tornarem indispensáveis em suas atividades. De como algumas tarefas, que hoje a IA faz e ainda são reconhecíveis como tal, daqui a um tempo serão melhores que aquelas feitas pela maioria dos mais talentoso dos humanos.

Hoje, quando vemos uma propaganda – em imagem estática ou vídeo – ainda é fácil notar quando é feita por IA. Mas já é infinitamente melhor do que víamos há pouquíssimo tempo. Como eu disse em artigo recente desta coluna, daqui a um tempo, ao pedir para uma LLM escrever um romance emulando o estilo de Tolstói, pode ser que ela não produza algo com a qualidade imensurável de um Anna Kariênina, mas, sem dúvida, entregará algo que passará por Tolstói tranquilamente. Os artistas e designers ainda conseguem defender a sensibilidade humana na criação de uma imagem ou obra de arte. Mas, sinceramente, não sei até quando isso será possível – e tendo a achar que não demorará muito.

Os artistas e designers ainda conseguem defender a sensibilidade humana na criação de uma imagem ou obra de arte. Mas, sinceramente, não sei até quando isso será possível

Dario Amodei, CEO da Anthropic (criadora do famoso Claude), em seu revelador ensaio “A Adolescência da Tecnologia”, faz um diagnóstico que me parece aterrorizante do ponto de vista da capacidade do que ele chama de IA Poderosa (Powerful AI) – a citação é longa, mas importantíssima:

“Por ‘IA Poderosa’, tenho em mente um modelo de inteligência artificial – provavelmente semelhante, em sua forma, aos atuais grandes modelos de linguagem (LLMs), embora possa ser baseado em uma arquitetura diferente, envolver vários modelos interagindo entre si e ser treinado de outra maneira – com as seguintes características:

Em termos de inteligência pura, ele é mais inteligente do que um ganhador do Prêmio Nobel na maioria dos campos relevantes: biologia, programação, matemática, engenharia, escrita e assim por diante. Isso significa que é capaz de demonstrar teoremas matemáticos ainda não resolvidos, escrever romances de altíssimo nível, desenvolver do zero bases de código extremamente complexas, entre outras realizações.

Além de ser apenas uma ‘coisa inteligente com a qual você conversa’, ele dispõe de todas as interfaces acessíveis a um ser humano que trabalhe remotamente, incluindo texto, áudio, vídeo, controle de mouse e teclado e acesso à internet. Pode realizar quaisquer ações, comunicações ou operações remotas possibilitadas por essas interfaces, incluindo agir na internet, dar ou receber instruções de seres humanos, encomendar materiais, dirigir experimentos, assistir a vídeos, produzir vídeos e assim por diante. E realiza todas essas tarefas com uma habilidade superior à dos seres humanos mais capazes do mundo.

VEJA TAMBÉM:

Não se limita a responder perguntas passivamente; ao contrário, pode receber tarefas que levem horas, dias ou semanas para serem concluídas e então executá-las de forma autônoma, da mesma maneira que um funcionário altamente competente faria, solicitando esclarecimentos quando necessário.

Não possui uma forma física própria (além de existir em uma tela de computador), mas pode controlar ferramentas físicas já existentes, robôs ou equipamentos laboratoriais por meio de um computador; em teoria, poderia até mesmo projetar robôs ou equipamentos para seu próprio uso.

Os recursos computacionais utilizados para treinar o modelo podem ser reaproveitados para executar milhões de instâncias dele simultaneamente (algo compatível com os tamanhos de clusters projetados para aproximadamente 2027), e o modelo pode absorver informações e gerar ações a uma velocidade cerca de 10 a 100 vezes superior à humana. Ainda assim, pode ser limitado pelo tempo de resposta do mundo físico ou dos softwares com os quais interage.

Cada uma dessas milhões de cópias pode atuar independentemente em tarefas não relacionadas entre si ou, se necessário, trabalhar em conjunto da mesma forma que seres humanos colaboram, talvez com diferentes subgrupos ajustados para se tornarem especialmente eficazes em determinadas tarefas.

Poderíamos resumir tudo isso como ‘um país de gênios dentro de um datacenter’.”

A IA poderá se tornar tão poderosa a ponto de tornar o ser humano obsoleto e descartável como os filmes de ficção científica há tanto nos alertam. A pergunta que não quer calar é: é isso que queremos?

Se o leitor não se assustou com o que se aproxima, eu sim. De acordo com a previsão de Amodei, de termos “um país de gênios dentro de um datacenter”, o que nos aguarda no futuro próximo são máquinas perfeitamente capazes de nos substituir em praticamente tudo o que fazemos hoje – primeiro em termos de processos, depois em quase todo o resto. Atualmente já há quem organize o seu dia e as escolhas que fará sobre o que comer, vestir, ou mesmo que tipo de pessoa buscar para se relacionar, fazendo perguntas à IA. E isso, cada vez mais, se tornará natural. A pessoa levantará da cama e seu roteiro de escolhas já estará completamente pronto, perfeitamente personalizado, feito por uma máquina. E sua humanidade se esvairá pelo vão dos dedos.

O que nos torna humanos é não só a nossa capacidade de pensar, mas de fazer escolhas, perguntas; de tomar decisões erradas e termos oportunidade de corrigi-las; de sermos surpreendidos por sentimentos que não controlamos. Nossa atividade laboral nos humaniza; a escolha profissional que fizemos nos humaniza; a realização de nossa vocação nos humaniza. Todas essas coisas, em não muito tempo, poderão ser delegadas a um sistema que escolherá por nós e nos presenteará com a famigerada abolição do homem de que fala C.S. Lewis.

Amodei avança em sua análise:

“Como mencionado, sabemos que os modelos de IA são imprevisíveis e desenvolvem uma ampla variedade de comportamentos indesejados ou estranhos, por uma grande diversidade de razões. Uma parcela desses comportamentos apresentará características coerentes, focadas e persistentes (na verdade, à medida que os sistemas de IA se tornam mais capazes, sua coerência de longo prazo aumenta, permitindo-lhes realizar tarefas mais extensas). E uma parcela desses comportamentos será destrutiva ou ameaçadora – primeiro para indivíduos, em pequena escala, e depois, à medida que os modelos se tornarem mais poderosos, possivelmente para a humanidade como um todo.”

Mas sua análise não é pessimista. Ele nos oferece algumas dicas de como podemos evitar que sejamos completamente dominados por máquinas. Podemos – e falo em primeira pessoa por mera conveniência literária –, por exemplo, “desenvolver a ciência de treinar e orientar modelos de IA de forma confiável, moldando suas personalidades numa direção previsível, estável e positiva”; também é possível “desenvolver a ciência de examinar o interior dos modelos para diagnosticar seu comportamento”, “construir a infraestrutura necessária para monitorar nossos modelos no uso interno e externo, e compartilhar publicamente quaisquer problemas encontrados” e “incentivar coordenação nos níveis da indústria e da sociedade”.

VEJA TAMBÉM:

O ensaio é longo e Amodei é muito sincero e correto em suas análises. Sim, há perigo de algum (ou alguns) governo autoritário, capaz de desenvolver seus sistemas de IA a ponto de oferecer perigo a humanidade, conseguir, então, controlar a todos. É nosso dever impedir que isso ocorra. Como ele diz: “faz sentido usar IA para capacitar democracias a resistir às autocracias”. O desenvolvimento da medicina e da biologia pode levar os seres humanos a realidades distópicas que já analisei em artigo sobre o filme Crimes do Futuro, de David Cronenberg. O transumanismo vai se tornando, cada vez mais, uma realidade. Sem falar nas armas biológicas.

A concentração de poder econômico é outro desafio. Elon Musk está prestes a se tornar o primeiro trilionário do mundo. Com a entrada da SpaceX na bolsa de valores, o processo pode se acelerar. Empresas como a Anthropic, OpenIA e Palantir caminham para ocupar posições cada vez mais centrais na economia global. Ou seja, pela primeira vez um pequeno grupo de empresas privadas pode vir a controlar instrumentos de conhecimento, produtividade e influência comparáveis aos de muitos Estados nacionais. Quiçá maiores.

Mas ainda há os problemas que desafiam a própria cautela de que precisamos. Afirma Amodei:

“Dedicar tempo para construir cuidadosamente sistemas de IA que não representem uma ameaça autônoma à humanidade entra em tensão real com a necessidade de as nações democráticas permanecerem à frente das nações autoritárias e evitarem ser subjugadas por elas. Mas, por outro lado, as mesmas ferramentas potencializadas pela IA que são necessárias para enfrentar as autocracias podem, se levadas longe demais, ser voltadas para dentro e utilizadas para criar formas de tirania em nossos próprios países. O terrorismo impulsionado por IA poderia causar a morte de milhões de pessoas por meio do uso indevido da biologia; porém, uma reação exagerada a esse risco poderia nos conduzir ao caminho de um Estado de vigilância autocrático. Os efeitos da IA sobre o trabalho e a concentração econômica, além de constituírem problemas graves por si mesmos, podem nos obrigar a enfrentar todos esses outros desafios em um ambiente de indignação pública e talvez até de agitação social, em vez de podermos recorrer ao que há de melhor em nossa natureza. Acima de tudo, a simples quantidade de riscos – inclusive aqueles que ainda desconhecemos – e a necessidade de lidar com todos eles simultaneamente criam um percurso intimidante de provações que a humanidade terá de atravessar.”

Entretanto, ele diz acreditar que “a que a humanidade possui a força interior necessária para superar este desafio”. Eu também. Sim, de fato, a IA poderá se tornar tão poderosa a ponto de tornar o ser humano obsoleto e descartável como os filmes de ficção científica há tanto nos alertam. A pergunta que não quer calar é: é isso que queremos? Ao fim e ao cabo, a decisão de para onde ir com tudo isso ainda é nossa. Se a consciência que Dario Amodei parece ter, dos desafios a serem enfrentados, estiver sendo discutida entre outros desses novos paladinos do futuro, há uma chance para nós. E, claro, na minha equação particular, sempre haverá Deus. Amém.