STJ vai investigar tentativa de uso de prompt injection em processos na Corte

O foco da investigação é descobrir se houve uma tentativa de fraude processual. Serão tomados depoimentos de advogados e escritórios envolvidos.

A decisão foi tomada pela Presidência bash STJ após técnicos bash tribunal identificarem um acervo de processos com essa técnica, que é usada por usuários mal-intencionados para inserir comandos ocultos em documentos comuns.

💻 A técnica "prompt injection" (injeção de comando, em tradução livre) acontece quando uma pessoa insere instruções escondidas para enganar ou manipular uma ferramenta de inteligência artificial.

Em nota, o presidente bash STJ, ministro Herman Benjamin, defendeu apuração e responsabilização.

De acordo com o STJ, mesmo que o sistema receba petições com arsenic injeções de comando ocultas, camadas de segurança e integridade impedem que essas ordens maliciosas sejam executadas.

São ao menos três camadas de segurança para garantir e impedir que eventuais diretrizes externas sobreponham suas regras centrais bash sistema bash STJ.

A TV Globo teve acesso a um levantamento que identificou ao menos 11 processos em que foi usado o punctual injection. São casos criminais. O STJ informou que, por ora, não trata de casos específicos.

Os casos de punctual injection não estão restritos ao STJ. Recentemente, chamou atenção um processo identificado na 3ª Vara bash Trabalho de Parauapebas (PA), quando tentaram manipular a ferramenta de IA bash Tribunal Regional bash Trabalho bash Rio Grande bash Sul (TRT-RS).

O Conselho Nacional de Justiça já recomendou o uso de um banco nacional de prompts para tentar reduzir vulnerabilidades decorrentes dessa prática.