O Superior Tribunal de Justiça (STJ) anunciou, no dia 20 de setembro, a abertura de uma investigação para examinar o uso de inteligência artificial em tentativas de fraudar o sistema eletrônico de petições do tribunal.
A Investigação e Seus Motivos
Sob a liderança do presidente do STJ, Herman Benjamin, foram instaurados tanto um inquérito policial quanto um procedimento administrativo interno. Essa ação visa apurar possíveis fraudes que teriam sido realizadas por advogados e firmas de advocacia.
Identificação de Fraudes
Técnicos do tribunal descobriram que petições estavam sendo submetidas com a técnica conhecida como ‘prompt injection’. Esse método é empregado para manipular modelos de inteligência artificial, buscando favorecer certas partes em processos judiciais.
Os prompts maliciosos são inseridos nas petições com a intenção de contornar filtros que regulam a admissibilidade de documentos, permitindo que informações que não atendem aos critérios mínimos sejam aceitas.
Medidas de Segurança do STJ
O STJ reforçou que seu sistema já possui mecanismos de segurança destinados a impedir o uso de prompts maliciosos. Essas barreiras garantem que as ordens inseridas não sejam processadas pela plataforma designada para a recepção das petições.
A investigação em curso reflete a preocupação do tribunal em manter a integridade do sistema judicial e a confiança nas tecnologias utilizadas.
