Transparência algorítmica e o dever de fundamentação no processo penal

Um relatório gerado por inteligência artificial não vale mais do que uma perícia oficial, mesmo quando o resultado parece conveniente.

O Superior Tribunal de Justiça julgou, no Habeas Corpus n. 1.059.475/SP, um caso em que a autoridade policial usou ferramentas de inteligência artificial generativa (Gemini e Perplexity) para reavaliar um áudio, depois que duas perícias oficiais do Instituto de Criminalística já haviam concluído, tecnicamente, em sentido oposto. O relatório produzido pela IA chegou a integrar a denúncia. O STJ excluiu essa prova.

A decisão não discutiu ilicitude, nem cadeia de custódia. O tribunal foi direto ao ponto: ferramentas de linguagem processam texto, não ondas sonoras, e um dos riscos do seu uso é a chamada alucinação, a apresentação de informação fabricada com aparência de fidedignidade. Sem fundamentação técnico-científica idônea, esse tipo de resultado não pode prevalecer sobre prova pericial oficial.

O caso é penal, mas o critério que ele fixa (confiabilidade epistêmica de resultados gerados por IA) já se aplica a qualquer contexto em que uma empresa se apoie em ferramentas de inteligência artificial para produzir laudos, relatórios ou pareceres com peso probatório: investigações internas, compliance, due diligence, análise de contratos e documentos. A Resolução do Conselho Nacional de Justiça n. 615/2025 caminha na mesma direção ao exigir transparência, explicabilidade e supervisão humana efetiva no uso de IA por órgãos julgadores, e a lógica se estende a quem depende dessas decisões.

Três pontos de atenção para quem usa IA em rotinas de compliance ou investigação interna:

1. Documentar sempre a metodologia e a supervisão humana por trás de qualquer conclusão gerada por IA, antes de apresentá-la como fundamento de uma decisão ou de uma denúncia interna.

2. Não substituir perícia técnica ou parecer especializado por resultado de ferramenta de linguagem, especialmente quando o dado analisado (áudio, imagem, documento digitalizado) exigir técnica própria, e não apenas processamento de texto.

3. Tratar a alucinação como risco concreto, e não hipotético: exigir verificação humana de qualquer conclusão relevante antes de incorporá-la a um relatório com consequências jurídicas.