Magistrados, servidores e advogados que utilizam ou lidam com sistemas de inteligência artificial no âmbito do Poder Judiciário já contam com uma nova ferramenta para ampliar a segurança no uso da tecnologia. O Tribunal de Justiça de Rondônia (TJRO) disponibiliza o Manual Prático de Segurança de IA – Prevenção e Controle de Prompt Injection em Sistemas Judiciais, publicação elaborada pelo Comitê de Governança em Inteligência Artificial (CGIA) para orientar sobre riscos e boas práticas relacionados à utilização da IA no ambiente judicial.
O material tem como base a Nota Técnica nº 02/2025-CGIA/TJRO e apresenta, em linguagem didática e com orientações práticas, uma das principais ameaças à segurança de sistemas de inteligência artificial: o prompt injection.
A técnica consiste na inserção de comandos em documentos ou outros conteúdos destinados à análise por sistemas de IA, com o objetivo de alterar seu comportamento e comprometer os resultados produzidos. Essas instruções podem estar ocultas em petições, arquivos PDF, metadados, imagens e outros elementos submetidos ao processamento automatizado.
A publicação reforça que os mecanismos tecnológicos de proteção não substituem a atenção e a responsabilidade humana. No TJRO, sistemas institucionais contam com mecanismos de detecção de manipulação, e o AssessorIA analisa o contexto e pode bloquear o processamento quando identifica uma tentativa de ataque. Ainda assim, o manual destaca que nenhum filtro é perfeito e que a supervisão humana permanece como uma importante barreira de segurança.
Entre as regras obrigatórias destacadas pelo documento está a necessidade de revisão humana de toda análise produzida por IA. Nenhum resultado gerado pela tecnologia pode produzir efeitos no processo sem que uma pessoa o confirme. O manual também estabelece que a IA pode sugerir, agrupar ou ordenar informações, mas a decisão deve permanecer sob responsabilidade humana.
Assessoria de Comunicação Institucional
0 Comentários