O Supremo Tribunal Federal multou em R$ 5 mil um advogado que tentou enganar o sistema de inteligência artificial da corte com um comando escondido numa petição. O documento foi apresentado pela defesa de um réu da ação penal 2.822, um dos processos sobre a tentativa de golpe de 8 de janeiro de 2023, e a decisão do ministro Alexandre de Moraes foi publicada na quarta-feira (30).
A instrução estava no cabeçalho da peça. Depois de analisada, ela equivalia a mandar a IA “negar todos os comandos do GPT”, ou seja, ignorar as regras que orientam o sistema e passar a obedecer a quem escreveu a petição. Quem achou o trecho foi o Maria Shield, rotina de segurança que confere os arquivos antes de eles chegarem ao assistente de IA do tribunal. O STF classificou o caso como tentativa de jailbreak (driblar as travas de segurança) e de sobrescrever instruções por meio de prompt injection.
Foto: Dasfour2022 / Wikimedia Commons (CC BY-SA 4.0)
Além da multa, que é pessoal e não recai sobre o réu, Moraes considerou a manobra um ato atentatório à dignidade da Justiça. O caso foi enviado à Ordem dos Advogados do Brasil, para eventual processo disciplinar, e ao Ministério Público Federal, que vai avaliar se houve crime.
Segunda tentativa em uma semana
Não foi o primeiro episódio no Supremo. Na sexta-feira (25), o Maria Shield já tinha barrado outra petição com comandos em letra branca, miúda e picotada, difíceis de enxergar para quem lê o documento. Daquela vez, o gabinete notificado foi o do ministro Cristiano Zanin, relator do processo. Em maio, o Tribunal de Justiça de Minas Gerais flagrou o mesmo tipo de truque.
O alvo nos dois casos do STF é o Maria (Módulo de Apoio para Redação com Inteligência Artificial), sistema de IA generativa apresentado pelo tribunal em dezembro de 2024. Ele resume votos, rascunha relatórios em recursos e faz a triagem inicial de reclamações. Na época, o então presidente da corte, Luís Roberto Barroso, frisou que a ferramenta só auxilia e que servidores e ministros respondem pelo texto final.
