O Tribunal de Justiça de Mato Grosso do Sul (TJMS) passou a adotar novas medidas de segurança voltadas ao uso da inteligência artificial no ambiente judicial. A iniciativa foi motivada após a identificação de comandos ocultos de prompt injection em petições eletrônicas enviadas por um escritório de advocacia de Campo Grande, acendendo o alerta para tentativas de manipulação de sistemas baseados em IA.
Para enfrentar esse tipo de situação, a Secretaria de Tecnologia da Informação (STI) do tribunal desenvolveu uma ferramenta capaz de detectar estruturas suspeitas inseridas em peças processuais.
O chamado prompt injection ocorre quando comandos ocultos são inseridos em textos enviados a plataformas de inteligência artificial. Na prática, essas instruções podem influenciar respostas automatizadas, alterar interpretações ou fazer com que sistemas ignorem parâmetros previamente definidos.
O tema é abordado no artigo “Prompt Injection no Judiciário: Um Tema à Espera de Enquadramento Penal”, de autoria do desembargador Odemilson Roberto Castro Fassa, coordenador do Comitê de Governança e Ética para o Uso de Inteligência Artificial no TJMS e pós-doutorando pela Universidade de São Paulo (USP).
No artigo, o magistrado chama atenção para os impactos que esse tipo de prática pode causar à credibilidade do sistema de Justiça e à integridade do processo eletrônico. Segundo ele, o tema ainda demanda maior amadurecimento jurídico e jurisprudencial no país.
“A conduta é, em verdade, pluriofensiva: atinge patrimônio, administração da Justiça, integridade de sistemas públicos e confiança na jurisdição. Definir como o direito penal brasileiro responderá a essa nova fronteira da litigância algorítmica predatória é debate que ainda está por ser feito e que merece análise aprofundada antes que os primeiros julgados consolidem entendimento sem o devido amadurecimento doutrinário”, escreveu o desembargador.
Fassa também avalia que as punições atualmente aplicáveis ao uso de prompt injection são insuficientes. Hoje, as consequências se limitam, em regra, a multas processuais e a medidas disciplinares da OAB, como suspensão. Para o magistrado, a ausência de responsabilização penal efetiva cria um cenário preocupante, especialmente em ações de alto valor, nas quais os possíveis ganhos obtidos com a fraude podem superar os riscos de punição.
A ferramenta desenvolvida pelo TJMS atua de forma preventiva, analisando padrões incompatíveis com a estrutura comum de documentos jurídicos e auxiliando na identificação de possíveis tentativas de interferência em sistemas inteligentes. A iniciativa integra as ações voltadas à segurança digital e ao uso responsável de novas tecnologias no Judiciário sul-mato-grossense.
“A evolução das tecnologias exige atenção permanente do Poder Judiciário não apenas às possibilidades trazidas pela inteligência artificial, mas também aos riscos relacionados ao uso inadequado dessas ferramentas”, afirma a diretora da área, Liriane Nogueira.
“O desenvolvimento interno dessa ferramenta demonstra a preocupação institucional do Tribunal em antecipar desafios e preservar a confiabilidade dos sistemas utilizados no ambiente processual”, completa.
Com a nova ferramenta, o TJMS amplia o monitoramento de possíveis tentativas de manipulação de sistemas de inteligência artificial utilizados no ambiente processual, acompanhando um debate que começa a ganhar espaço no Judiciário brasileiro diante do avanço dessas tecnologias.
Apesar da disponibilização do detector de prompt injection, o tribunal ressalta que a medida mais eficaz para evitar esse tipo de risco continua sendo a supervisão humana. O TJMS reforça que os sistemas de IA funcionam apenas como ferramentas de apoio e que os atos decisórios permanecem sob responsabilidade exclusiva dos magistrados, com revisão obrigatória das informações produzidas pelas plataformas.
Entenda o caso
No episódio identificado pelo TJMS, os comandos ocultos estavam inseridos em fonte branca dentro das petições eletrônicas, tornando-se invisíveis em uma leitura convencional do documento. As instruções eram direcionadas a sistemas de inteligência artificial generativa e buscavam induzir respostas favoráveis a uma determinada tese jurídica. O caso reforçou a necessidade de mecanismos preventivos capazes de detectar esse tipo de interferência em ambientes digitais do Judiciário.