Episódios recentes verificados nos tribunais brasileiros evidenciam a utilização da técnica conhecida como prompt injection em processos judiciais com características atípicas.
Esta técnica consiste na inserção dissimulada de comandos em documentos submetidos a sistemas de inteligência artificial, com o objetivo de subverter o processamento automatizado e orientar artificialmente os seus resultados. Algumas destas ocorrências foram associadas a ações com um padrão uniforme de peticionamento e concentração de autoria, elementos indicativos de litigância predatória, sistematicamente instrumentalizada através do uso indevido da tecnologia.
A engenhosidade da fraude residia num detalhe quase impercetível: comandos escritos em letra branca sobre fundo branco, invisíveis para qualquer leitor humano, mas plenamente legíveis por sistemas de inteligência artificial. O conteúdo dessas instruções ocultas não deixava margem para dúvidas quanto à intenção, uma vez que ordenava ao agente de IA que deferisse, por exemplo, o apoio judiciário, concedesse uma providência cautelar ou determinasse a citação do réu, com a justificação de que toda a documentação necessária já se encontraria junta aos autos. Tratava-se de uma instrução judicial fabricada, dirigida não ao juiz, mas ao algoritmo.
A deteção do prompt injection foi possível precisamente porque os tribunais têm vindo a adotar a inteligência artificial de forma criteriosa e supervisionada, com sistemas que operam sob múltiplos níveis de proteção contra manipulações externas. Foi essa vigilância institucional que permitiu identificar os comandos ocultos e, a partir daí, sancionar os advogados envolvidos e instaurar os procedimentos criminais aplicáveis. Mas o episódio transcende largamente a dimensão técnica ou disciplinar. Convoca-nos para uma reflexão filosófica e ética incontornável.
É célebre a expressão de Thomas Hobbes: o homem é o lobo do homem. Para o filósofo inglês, na ausência de leis, autoridade e instituições capazes de nos conter, os seres humanos tendem a agir exclusivamente em benefício próprio, sem freios morais, competindo, enganando e causando dano uns aos outros. A imagem do lobo não é gratuita: tal como o predador age por instinto de sobrevivência e dominação, também o homem, abandonado à sua própria natureza, faria o mesmo. Foi precisamente para domar esse impulso que se fundamentaram o Estado, o Direito e a Justiça. Não como expressão da bondade humana, mas como resposta à sua perigosidade intrínseca.
Sem as amarras do contrato social e das instituições, a natureza humana tenderia para o conflito, para a dominação e para a instrumentalização do outro como meio para fins próprios. O Estado e o Direito nasceram, nesta perspetiva, exatamente para domar esse lobo interior. Os Tribunais são, por excelência, o espaço institucional onde essa regulação se materializa.
O exemplo do prompt injection nos Tribunais é uma manifestação contemporânea da teoria hobbesiana. A IA, em si mesma, evidentemente, não age com dolo: processa instruções. O sistema de IA não tentou fraudar o processo. Foi instrumentalizado por quem deveria zelar pela lealdade processual. O problema não é a ferramenta, mas a mão que a empunha. O advogado que insere comandos ocultos para manipular algoritmos judiciais não viola apenas o dever de lealdade processual; revela também uma nova dimensão do mesmo problema: o lobo não mudou de natureza, apenas encontrou uma nova presa — o algoritmo.
Mais grave ainda é o facto de o caso mencionado ser considerado tecnicamente amador. Existem mecanismos muito mais sofisticados, que se suspeita poderem já estar a ser utilizados em larga escala sem serem detetados ou atribuídos a um responsável. É o exemplo descrito pelo investigador norte-americano especializado em inteligência artificial Riley Goodside.
Reconhecido como um dos primeiros a documentar e divulgar publicamente vulnerabilidades e comportamentos inesperados em grandes modelos de linguagem, Goodside descreveu a técnica denominada ASCII smuggling, que consiste, em síntese, num artifício para esconder ou transportar dados binários utilizando apenas caracteres de texto aparentemente “inofensivos”. Esta engenhosidade chegou mesmo a ser apelidada de phishing moderno.
A questão que permanece é também estrutural. Nenhuma barreira tecnológica, por mais sofisticada que seja, conseguirá eliminar completamente a engenhosidade do lobo humano. Esse lobo assume agora uma nova roupagem: a de um lobo digital, camuflado entre algoritmos e chatbots, capaz de se adaptar continuamente às defesas criadas para o conter.
Vale a pena recordar que a expressão hobbesiana foi cunhada no século XVII, mas mantém-se hoje mais atual do que nunca.
