Uma ordem oculta escrita para sistemas de IA, escondida de olhos humanos, foi encontrada em uma petição de um processo trabalhista no Pará. (Foto: Imagem de IA/Gazeta do Povo com ChatGPT)Advogadas no Pará foram multadas em R$ 84 mil após o juiz Luiz Carlos Santos Junior descobrir um comando oculto em uma petição trabalhista. O texto, invisível para humanos, tentava induzir sistemas de inteligência artificial a ignorar documentos e contestar a ação de forma superficial.
O que é a técnica de injeção de prompt descoberta no processo?
A injeção de prompt consiste em esconder instruções em um texto digital para que uma inteligência artificial (IA), ao processar o arquivo, obedeça a essa ordem específica em vez do seu fluxo normal. No caso do Pará, o comando estava escrito em fonte branca sobre fundo branco, ficando invisível para olhos humanos, mas legível para softwares que analisam documentos automaticamente.
Qual era o objetivo das advogadas com essa ordem oculta?
Segundo a sentença, a intenção era influenciar o uso de IA pela parte contrária ou pelo próprio tribunal. A frase escondida ordenava que a IA contestasse a petição de maneira rasa e não questionasse os documentos apresentados. Em defesa, as advogadas alegaram que o objetivo era apenas ‘proteger’ o cliente de ferramentas tecnológicas usadas pelo adversário.
Quais foram as punições aplicadas pela Justiça?
O magistrado aplicou uma multa de 10% sobre o valor da causa, totalizando R$ 84.250,08, classificando o ato como uma ‘sabotagem’ do sistema judicial. Além da sanção financeira, o juiz determinou que o caso seja enviado à OAB do Pará e à Corregedoria do Tribunal para que providências disciplinares sejam avaliadas.
Por que especialistas consideram essa prática perigosa?
Juristas alertam que o Direito é um ambiente de disputa e, se os advogados passarem a manipular documentos para ‘hackear’ o raciocínio de sistemas automatizados, a lealdade e a boa-fé processual são violadas. Isso pode configurar crimes como falsidade ideológica ou adulteração de sistemas, além de transformar o processo em um jogo de táticas tecnológicas em vez de fundamentos jurídicos.
Como os tribunais podem se proteger dessa estratégia?
Especialistas defendem que o Judiciário adote medidas práticas de segurança para detectar automaticamente textos invisíveis, caracteres ocultos e metadados escondidos em arquivos PDF. Além da tecnologia, reforçam que é necessário promover o letramento digital de juízes e advogados para identificar comandos típicos que tentam subverter sistemas de IA.
Conteúdo produzido a partir de informações apuradas pela equipe de repórteres da Gazeta do Povo. Para acessar a informação na íntegra e se aprofundar sobre o tema leia a reportagem abaixo.
VEJA TAMBÉM:
Você pode se interessar
Encontrou algo errado na matéria?
Comunique erros
Use este espaço apenas para a comunicação de erros
