O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de prompts de inteligência artificial em tentativas de burlar o sistema eletrônico de petições do tribunal.
Por ordem do presidente do STJ, Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno para apurar as tentativas de fraude, que teriam sido cometidas por advogados e escritórios de advocacia.
Segundo o tribunal, técnicos identificaram a entrada de petições com prompt injection, mecanismo usado para tentar enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo. Os comandos ocultos seriam inseridos nas petições para forçar o sistema a ignorar filtros de seleção que impedem, por exemplo, a admissão de documentos sem os requisitos básicos de admissibilidade.
O STJ informou ainda que o sistema do tribunal já tem travas contra o uso de prompts e impede que essas ordens sejam executadas pela plataforma que recebe as petições.
