Por Kleber Karpov
O Superior Tribunal de Justiça (STJ) determinou, nesta quarta-feira (20/Mai), a abertura de uma investigação para apurar o uso de inteligência artificial com o objetivo de burlar o sistema eletrônico de petições do tribunal em Brasília. Por ordem do presidente do STJ, Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno para investigar tentativas de fraude que teriam sido cometidas por advogados e escritórios de advocacia.
A medida foi tomada após a equipe técnica do tribunal identificar a entrada de petições com prompt injection. Este mecanismo consiste na inserção de comandos ocultos em documentos digitais com a finalidade de enganar modelos de IA e, consequentemente, favorecer partes durante o andamento de um processo.
O principal objetivo dos comandos era forçar o sistema automatizado a ignorar filtros de seleção que barram documentos sem os requisitos básicos de admissibilidade. Com a fraude, petições irregulares poderiam ser admitidas indevidamente na tramitação processual.
Sistemas de defesa do tribunal
Segundo o STJ, a plataforma do tribunal já possui defesas contra esse tipo de manipulação. A corte informou que o sistema é equipado com travas que impedem que as ordens maliciosas sejam executadas pela plataforma que recebe as petições, neutralizando as tentativas de fraude.
Kleber Karpov, Fenaj: 10379-DF – IFJ: BR17894
Mestrando em Comunicação Política (Universidade Católica Portuguesa/Lisboa, Portugal); Pós-Graduando em MBA Executivo em Neuromarketing (Unyleya); Pós-Graduado em Auditoria e Gestão de Serviços de Saúde (Unicesp); Extensão em Ciências Políticas por Veduca/ Universidade de São Paulo (USP);Ex-secretário Municipal de Comunicação de Santo Antônio do Descoberto(GO); Foi assessor de imprensa no Senado Federal, Câmara Federal e na Câmara Legislativa do Distrito Federal. Criador do PubliqueAI, plataforma para produção de textos jornalísticos com uso de Inteligência Artificial.
