O Superior Tribunal de Justiça (STJ) iniciou nesta quarta-feira (20) uma investigação formal para apurar a ocorrência de fraudes através do emprego de prompts de inteligência artificial (IA) no sistema eletrônico de petições da corte. A ação visa esclarecer como comandos ocultos foram inseridos em documentos para manipular o funcionamento da IA.
Por determinação do presidente do STJ, ministro Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. O objetivo é investigar as tentativas de manipulação, supostamente realizadas por advogados e escritórios de advocacia, que buscavam burlar os filtros de admissibilidade dos processos.
A decisão do tribunal veio após a identificação por parte de técnicos do STJ de petições que continham a técnica conhecida como 'prompt injection'. Esse método é empregado para enganar modelos de IA, influenciando o andamento eletrônico de um processo em favor de uma das partes.
Esses comandos, inseridos de forma dissimulada, visam forçar o sistema de IA a desconsiderar os filtros de seleção. Tais filtros são essenciais para garantir que apenas documentos que atendam aos requisitos básicos de admissibilidade sejam aceitos no trâmite processual.
O STJ ressaltou que seu sistema possui mecanismos de defesa contra o uso indevido de prompts. De acordo com o tribunal, essas salvaguardas impedem que as ordens maliciosas sejam executadas pela plataforma responsável pelo recebimento das petições.
Comentários
Para comentar realize o login em sua conta!
Login Cadastre-se