O Tribunal de Justiça de São Paulo (TJ/SP) está intensificando sua atuação para coibir a manipulação de ferramentas de inteligência artificial (IA) em processos judiciais. A medida surge em resposta à identificação de casos de uso indevido da tecnologia, como a técnica conhecida como ‘prompt injection’, que busca influenciar o funcionamento dos sistemas de IA para obter resultados específicos e potencialmente fraudulentos.
A preocupação com a integridade processual diante do avanço tecnológico foi tema de recente destaque em reportagem veiculada pela emissora Record News, no último sábado, 30 de maio. A matéria ressaltou o papel do Judiciário paulista na fiscalização e no combate a essas práticas, que representam um novo desafio para a Justiça e para a advocacia.
A crescente integração da IA no cotidiano jurídico traz inúmeros benefícios em termos de eficiência e agilidade, mas também abre margem para novas formas de fraude e manipulação. A ‘prompt injection’, por exemplo, consiste em inserir comandos maliciosos ou enganosos em sistemas de IA, visando alterar seu comportamento ou induzir respostas que favoreçam uma das partes em um processo.
Impactos na advocacia e desafios para a justiça
A manipulação de ferramentas de IA no ambiente jurídico representa um desafio complexo, exigindo que advogados, promotores e juízes desenvolvam novas habilidades e conhecimentos para identificar e combater essas práticas. A confiabilidade das provas e informações geradas por IA se torna um ponto crucial, demandando a implementação de mecanismos de verificação e auditoria robustos.
Este cenário impõe a necessidade de um diálogo contínuo entre os operadores do direito e os especialistas em tecnologia. A legislação e a jurisprudência precisam evoluir rapidamente para acompanhar as inovações tecnológicas, garantindo que os princípios de justiça, equidade e devido processo legal sejam mantidos na era digital.
Plataformas que auxiliam na gestão processual e na segurança da informação, como a Tem Processo, podem ser aliadas importantes para advocacias e departamentos jurídicos que buscam garantir a integridade de seus dados e evitar vulnerabilidades decorrentes do uso de novas tecnologias. A adoção de sistemas dotados de inteligência artificial jurídica, como a Redizz, exige atenção redobrada à segurança e à ética no manuseio de dados e na geração de petições.
Acompanhamento e futuras regulamentações
O Tribunal de Justiça de São Paulo, ao sinalizar sua postura ativa no combate à manipulação da IA, demonstra um compromisso com a modernização do Judiciário, sem, contudo, abrir mão da segurança e da ética. A expectativa é que, com a disseminação desses casos, o debate sobre a regulação do uso da inteligência artificial no Direito se intensifique, levando à criação de normas e diretrizes mais claras para o setor.
Para advogados e escritórios de advocacia, manter-se atualizado sobre as tendências e os riscos associados à IA é essencial. A capacitação em segurança da informação e em ética digital torna-se um diferencial competitivo e uma necessidade para a prática profissional no século XXI.
Com informações publicadas originalmente no site tjsp.jus.br.
