O Tribunal de Justiça de São Paulo (TJSP) divulgou na sexta-feira, 22 de maio de 2026, a identificação do uso da técnica conhecida como “prompt injection” em processos judiciais. A prática foi detectada em ações distribuídas nas regiões de Campinas e na capital paulista, marcando um alerta importante sobre a segurança e a integridade da advocacia digitalizada no país.
A “prompt injection” é uma forma de ataque cibernético que busca manipular o comportamento de sistemas de inteligência artificial (IA), inserindo comandos maliciosos em suas entradas. No contexto jurídico, essa técnica poderia, em tese, influenciar a IA utilizada em plataformas de análise ou decisão processual, alterando resultados ou direcionando informações de forma indevida. A descoberta levanta preocupações sobre a confiabilidade das ferramentas tecnológicas que se consolidam no ambiente jurídico.
A judicialização de processos tem sido cada vez mais otimizada pelo uso da tecnologia, e as tentativas de fraude demonstram a necessidade constante de aprimoramento dos mecanismos de segurança. A detecção precoce pelo TJSP é crucial para que medidas de proteção sejam implementadas e para que a comunidade jurídica esteja atenta aos novos desafios que surgem com a integração da inteligência artificial no dia a dia forense.
Desafios da IA no ambiente jurídico
A inserção da inteligência artificial no judiciário brasileiro, como em iniciativas para agilizar decisões e otimizar rotinas forenses, traz consigo, além dos benefícios, a complexidade de garantir a segurança e a imparcialidade dessas tecnologias. A “prompt injection” é um dos exemplos mais latentes de como a manipulação pode ocorrer, exigindo que advogados, tribunais e desenvolvedores de sistemas estejam em constante vigilância.
A transparência e a auditabilidade dos sistemas de IA tornam-se, portanto, pilares fundamentais. É essencial que seja possível rastrear e entender como as decisões foram formuladas por essas ferramentas, bem como identificar qualquer interferência externa. Isso não apenas protege a integridade dos processos, mas também fortalece a confiança da sociedade na justiça.
Para os advogados, a compreensão desses riscos é vital. A capacitação em segurança digital e em novas tecnologias é cada vez mais necessária para navegar em um cenário onde a automação e a inteligência artificial são elementos presentes na prática jurídica. Ferramentas de IA jurídica, como a Redizz, têm facilitado a rotina de escritórios que buscam maior eficiência, mas a segurança em seu uso é primordial.
Impacto e prevenção no Judiciário
O TJSP não detalhou as consequências diretas das “prompt injections” identificadas, mas o fato de a notícia ter sido divulgada ressalta a seriedade com que o tribunal está encarando o problema. Ações de prevenção incluem o aprimoramento dos algoritmos de segurança, a implementação de sistemas de detecção de anomalias e a educação de usuários sobre as melhores práticas de uso de tecnologias.
A ocorrência dessa técnica em processos judiciais de São Paulo e Campinas serve como um alerta para outros tribunais e para o desenvolvimento de legaltechs e lawtechs. A colaboração entre o setor público e privado será fundamental para criar ecossistemas jurídicos digitais mais resilientes e seguros, onde a inovação tecnológica possa ser aproveitada em sua totalidade, sem comprometer a imparcialidade e a justiça.
A proteção contra a manipulação envolve, ainda, a revisão constante de políticas de segurança e a implementação de mecanismos de validação humana em pontos críticos dos processos automatizados. Essa abordagem híbrida, que combina a eficiência da IA com a supervisão humana, é o caminho mais seguro para garantir a integridade do sistema judiciário no contexto da transformação digital.
Com informações publicadas originalmente no site tjsp.jus.br.
