Publications / Articles

(Português) “PROMPT INJECTION” E PROCESSOS JUDICIAIS

(Português) “PROMPT INJECTION” E PROCESSOS JUDICIAIS

02 . 06 . 2026 Published in Articles
Written by Rafael Escanhoela

(Português) Recentemente, vêm sendo cada vez mais comuns notícias sobre o uso de uma técnica de manipulação de sistemas de inteligência artificial denominada “prompt injection” no âmbito de processos judiciais, como forma de se influenciar sistemas de inteligência artificial de forma favorável ao seu utilizador. 

Essa técnica consiste na inserção de instruções escondidas ou de outra forma dissimuladas em documentos que serão analisados por sistemas de inteligência artificial, seja aqueles utilizados pelo próprio Poder Judiciário, seja por outras partes no processo, de forma a se tentar influenciar alguma decisão, análise ou qualquer outra ação automatizada realizada por tais sistemas. 

Até o momento, não se tem conhecimento de nenhum caso no qual esse tipo de técnica tenha obtido sucesso, posto que nos casos em que foi constatada sua utilização, foi detectada em tempo hábil de prevenir qualquer efeito mais gravoso, com a adoção das medidas cabíveis pelas autoridades competentes para responsabilização de seus utilizadores. 

Porém, a situação demonstra um dos riscos da dependência exacerbada no uso de sistemas de inteligência artificial, posto que, sem supervisão adequada de seres humanos, havendo uma aplicação de sucesso da técnica de “prompt injection”, é muito mais fácil que um documento (seja peça processual, análise, ou documento jurídico de qualquer espécie) produzido sob influência das instruções injetadas passe desapercebido. 

Felizmente, esse tipo de situação é facilmente contornado com a adoção de um simples procedimento: a submissão de qualquer documento produzido por sistemas de inteligência artificial à análise de profissional devidamente qualificado (na hipótese sob discussão, um advogado), o qual, mesmo que não tenha sido detectado o uso da técnica de “prompt injection”, fará uma análise técnica e realizará as adequações necessárias ao documento, corrigindo qualquer distorção causada pelas instruções indevidas, ou até mesmo pelos erros naturalmente incorridos pelos sistemas de inteligência artificial.