STJ inicia apuração sobre uso de prompts de inteligência artificial em fraudes processuais

O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) a abertura de uma investigação crucial para apurar o uso indevido de prompts de inteligência artificial no seu sistema eletrônico de petições. O objetivo é combater tentativas de fraudes processuais que visam burlar os mecanismos de segurança da plataforma, garantindo a integridade dos procedimentos judiciais.

Por determinação do presidente do STJ, ministro Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. Ambas as frentes têm como foco investigar supostas tentativas de manipulação, que teriam sido orquestradas por advogados e escritórios de advocacia.

A medida emergencial foi adotada após técnicos do tribunal identificarem a inserção de petições contendo o que se denomina *prompt injection*. Este mecanismo sofisticado é empregado para enganar modelos de IA, buscando favorecer determinadas partes no decorrer do trâmite eletrônico dos processos.

Esses comandos ocultos, estrategicamente embutidos nas petições, têm como finalidade forçar o sistema de inteligência artificial a ignorar os filtros de seleção. O objetivo principal é permitir a admissão de documentos que, de outra forma, seriam rejeitados por não preencherem os requisitos básicos de admissibilidade.

Apesar das tentativas de fraude, o STJ ressalta que seu sistema já possui travas de segurança robustas contra o uso de prompts. Tais proteções impedem que as ordens mal-intencionadas sejam executadas pela plataforma responsável pelo recebimento das petições, minimizando os riscos de sucesso das manipulações.