BRASIL — O Superior Tribunal de Justiça (STJ) abriu um inquérito e um procedimento administrativo para investigar o uso da técnica conhecida como “prompt injection” — ou injeção de comando — em processos judiciais. A suspeita é de uma possível tentativa de manipular ferramentas de inteligência artificial (IA) utilizadas pelo Judiciário.

Segundo apuração da TV Globo, ao menos 11 processos criminais teriam apresentado indícios do uso dessa técnica, considerada uma forma de inserir comandos ocultos em documentos para influenciar respostas de sistemas baseados em IA.

A investigação foi determinada pela Presidência do STJ após técnicos identificarem petições com possíveis tentativas de fraude processual. Advogados e escritórios envolvidos poderão ser ouvidos durante a apuração.

O presidente do STJ, o ministro Herman Benjamin, afirmou que o tribunal está monitorando casos suspeitos e reforçou que o sistema de inteligência artificial da corte possui mecanismos de proteção contra esse tipo de tentativa.

Segundo ele, o STJ Logos, ferramenta de IA generativa desenvolvida pelo tribunal, foi criado com comandos de segurança para impedir manipulações.

Mas afinal, o que é “prompt injection”?

A técnica consiste em inserir comandos ocultos dentro de textos aparentemente normais, com o objetivo de induzir sistemas de inteligência artificial a ignorarem instruções originais, reduzirem verificações de segurança ou produzirem respostas específicas.

Em um caso recente no Pará, duas advogadas chegaram a ser multadas após tentarem interferir no funcionamento da IA Galileu, utilizada pela Justiça do Trabalho.

Segundo a decisão judicial, elas teriam escondido uma mensagem em letras brancas sobre fundo branco, invisível ao leitor comum, mas detectável pela inteligência artificial. O texto orientava o sistema a contestar uma petição “de forma superficial” e a não questionar documentos anexados.

As advogadas negaram tentativa de manipulação e afirmaram que a intenção seria proteger o cliente do uso inadequado da própria inteligência artificial. A defesa informou que recorrerá da decisão.

No caso do STJ, a corte informou que, mesmo quando petições com comandos ocultos são recebidas, o sistema conta com camadas de integridade e segurança que impedem a execução de ordens maliciosas.

A investigação agora busca identificar se houve tentativa deliberada de fraude processual e quais responsabilidades administrativas ou criminais podem ser aplicadas aos envolvidos.