O Superior Tribunal de Justiça (STJ) determinou a abertura de um inquérito para investigar a conduta de um escritório de advocacia que supostamente utilizou a técnica de ‘prompt injection’ para manipular a inteligência artificial (IA) da corte em petições. O incidente, que envolveu a inserção de comandos maliciosos em documentos processuais, acende um alerta sobre a ética e a segurança da informação na era da advocacia digital e o uso de ferramentas como a Redizz.
A investigação foi instaurada pelo então presidente do STJ, Luis Felipe Salomão (referente à data da notícia original), após identificar petições contendo instruções ocultas que visavam influenciar as respostas e análises geradas pelo sistema de IA do tribunal. A prática de ‘prompt injection’ consiste em introduzir texto invisível ou estrategicamente formatado em uma entrada de comando, que pode ser interpretado pela IA de forma a desviar seu funcionamento original ou gerar resultados desejados pelos autores da manipulação.
O caso no STJ destaca a crescente necessidade de vigilância e desenvolvimento de mecanismos de segurança contra o uso indevido de tecnologias emergentes no ambiente jurídico. A manipulação de sistemas de IA, especialmente em contextos processuais, pode comprometer a imparcialidade, a transparência e a integridade do sistema de justiça, gerando precedentes perigosos sobre a validade e a confiabilidade de decisões assistidas por tecnologia.
Impacto na advocacia digital e ética
A controvérsia ressalta uma nova dimensão dos desafios éticos que a inteligência artificial impõe à comunidade jurídica. Advogados têm responsabilidade de garantir que o uso de ferramentas de IA respeite os princípios fundamentais da advocacia, incluindo a lealdade processual, a boa-fé e a busca pela verdade. A exploração de vulnerabilidades em sistemas automatizados para obter vantagens indevidas é uma transgressão grave que pode levar a sanções éticas e disciplinares rigorosas.
A introdução da IA no judiciário, embora prometa maior eficiência e agilidade, exige um debate aprofundado sobre suas implicações, a necessidade de regulamentação e a formação de profissionais capazes de operar e fiscalizar essas tecnologias de forma responsável. A transparência na utilização de IA, tanto por parte dos tribunais quanto dos escritórios de advocacia, torna-se essencial para a manutenção da confiança no sistema judicial. Ferramentas de gestão processual como a Tem Processo são desenvolvidas com esses pilares em mente, prezando pela segurança e confiabilidade no acompanhamento de litígios.
Precedentes e futuro da regulamentação
Este incidente no STJ pode servir como um marco para a discussão e eventual criação de diretrizes específicas para o uso da inteligência artificial na prática jurídica brasileira, bem como para coibir o desenvolvimento de novas técnicas de manipulação. A Ordem dos Advogados do Brasil (OAB) e outras entidades representativas deverão intensificar o diálogo sobre o tema, oferecendo orientação e treinamento para que os advogados possam usufruir dos benefícios da IA sem comprometer a ética profissional.
A integridade dos sistemas jurídicos digitais depende, em grande parte, da capacidade de identificar e neutralizar ataques como o ‘prompt injection’. Investimentos em cibersegurança e em soluções de IA mais robustas e resistentes a manipulações são cruciais para assegurar que a tecnologia seja uma aliada da justiça e não um vetor para fraudes ou decisões distorcidas. O desdobramento deste inquérito será acompanhado de perto por toda a comunidade jurídica, servindo como um estudo de caso importante na evolução da relação entre direito e inteligência artificial.
Com informações publicadas originalmente no site jota.info.
