Quando a IA parece compreender, mas apenas aproxima: O risco invisível da confiança técnica na IA jurídica

O artigo de Pedro Borges Mourão, “Cosseno 0,99 não é compreensão”, traz uma contribuição técnica extremamente relevante para o debate jurídico sobre inteligência artificial.

Seu mérito principal está em demonstrar, com precisão empírica, um problema que muitos operadores do Direito ainda percebem apenas de forma intuitiva: a IA pode falhar antes mesmo de “alucinar” uma resposta.

A falha pode estar na própria forma como o sistema representa a linguagem jurídica.

Esse ponto é decisivo porque grande parte do debate sobre IA no Direito ainda se concentra na etapa final do erro: a citação inexistente, a jurisprudência falsa, a resposta inventada, o precedente mal utilizado ou a conclusão juridicamente equivocada.

Esses riscos são reais.

Mas há uma camada anterior, menos visível e talvez mais perigosa: a forma como o sistema seleciona, aproxima, recupera e organiza a informação antes de entregar uma resposta ao operador humano.

Em sistemas baseados em embeddings, frases, peças, precedentes e documentos são convertidos em vetores numéricos. A máquina passa a medir proximidade estatística entre textos. Em termos simples, ela busca aquilo que parece semanticamente próximo dentro de um espaço matemático.

O problema é que proximidade estatística não equivale, necessariamente, a compreensão jurídica.

Para o Direito, há uma diferença brutal entre:

“o autor deve indenizar o réu”

e

“o réu deve indenizar o autor”.

As palavras são quase as mesmas. A estrutura linguística é parecida. A proximidade textual é evidente.

Mas o sentido jurídico é oposto.

Há inversão de polos. Há alteração do sujeito obrigado. Há mudança do conteúdo normativo da frase.

Para determinados sistemas de recuperação densa, contudo, essas duas formulações podem aparecer como altamente semelhantes, justamente porque compartilham grande parte da superfície linguística. O sistema pode identificar proximidade estatística onde o jurista identifica oposição normativa.

Esse é o núcleo do problema.

A IA não está necessariamente “compreendendo” a frase. Ela está calculando proximidades.

E, em determinados contextos jurídicos, calcular proximidade não basta.

O Direito depende de distinções finas.

Uma palavra pode alterar o resultado de uma causa.

Um “não” pode modificar completamente a consequência jurídica.

Um “e” pode exigir cumulação.

Um “ou” pode indicar alternativa.

Um “salvo” pode abrir exceção.

Um “desde que” pode estabelecer condição.

A troca entre autor e réu, credor e devedor, locador e locatário, exequente e executado, requerente e requerido não é detalhe linguístico. É estrutura jurídica.

Quando um sistema aproxima textos sem preservar adequadamente essas diferenças, ele não apenas falha tecnicamente. Ele pode induzir uma confiança indevida no operador humano.

E aqui está um ponto central do artigo de Pedro Borges Mourão: um escore elevado, como um cosseno próximo de 0,99, pode parecer sinal de compreensão, robustez ou segurança. Mas, em determinadas arquiteturas vetoriais, esse número pode apenas refletir proximidade estatística dentro de um espaço matemático que não preserva adequadamente polaridade, papéis processuais e sentido normativo.

Essa é a armadilha.

O sistema não apenas pode errar.

Ele pode errar com aparência técnica de segurança.

Esse aspecto é especialmente importante para o Direito porque a decisão jurídica não nasce apenas no momento da sentença. Ela é formada por uma cadeia de mediações: busca de documentos, recuperação de precedentes, seleção de argumentos, leitura de peças, organização de provas, filtragem de dados, ranqueamento de resultados e atribuição de relevância.

Se essa cadeia passa a ser mediada por sistemas cuja lógica técnica não é compreendida pelo operador, a autonomia decisória pode ser afetada antes mesmo do julgamento consciente.

O risco não está apenas na resposta final.

Está no caminho informacional que conduz até ela.

É nesse ponto que a contribuição empírica de Pedro Borges dialoga diretamente com aquilo que venho pesquisando como influência cognitiva estrutural.

A influência cognitiva estrutural não ocorre apenas quando alguém é convencido por uma resposta errada. Ela também ocorre quando uma arquitetura informacional organiza previamente o campo de percepção do sujeito: o que aparece como relevante, o que parece confiável, o que surge primeiro, o que é omitido, o que é ranqueado, o que é apresentado como semelhante, provável ou tecnicamente seguro.

No caso da IA jurídica, isso significa que a ferramenta pode influenciar o operador antes mesmo de ele formular sua conclusão.

Ela pode sugerir quais documentos merecem atenção.

Pode selecionar precedentes.

Pode resumir teses.

Pode aproximar casos.

Pode hierarquizar argumentos.

Pode apresentar como suporte algo que, juridicamente, deveria ser tratado como oposição, exceção ou distinção.

Esse tipo de influência é mais difícil de perceber porque não aparece necessariamente como erro grosseiro.

Não é sempre uma jurisprudência inexistente.

Não é sempre uma citação falsa.

Não é sempre uma resposta absurda.

Às vezes, o problema está em uma aproximação aparentemente razoável, em um ranqueamento plausível, em uma métrica elevada ou em uma resposta tecnicamente fluente que produz no operador a sensação de que o sistema compreendeu o sentido jurídico envolvido.

Mas fluência não é compreensão.

Proximidade não é equivalência.

Similaridade estatística não é validade normativa.

E confiança técnica não é garantia de acerto jurídico.

A lição, portanto, não é simplesmente “a IA erra”.

Essa conclusão seria pobre.

A lição é mais profunda: a IA pode estruturar a confiança humana em torno de métricas que o próprio usuário não compreende.

E quando isso ocorre no Direito, o problema deixa de ser apenas tecnológico.

Passa a ser jurídico, institucional e cognitivo.

Jurídico, porque pode afetar teses, pareceres, petições, precedentes e decisões.

Institucional, porque órgãos públicos, tribunais, escritórios, empresas e departamentos jurídicos podem incorporar sistemas sem compreender plenamente seus modos de falha.

Cognitivo, porque o operador humano pode passar a confiar na arquitetura antes de compreender seus limites.

A inteligência artificial aplicada ao Direito não exige apenas bons comandos.

Não basta aprender a escrever prompts.

Não basta dominar a interface.

Não basta saber “perguntar melhor”.

É preciso uma alfabetização mais profunda: técnica, linguística, estatística, jurídica e institucional.

O operador precisa compreender que uma resposta pode ser bem escrita e ainda assim estar errada.

Que um documento pode ser recuperado como semelhante e ainda assim sustentar tese oposta.

Que um escore elevado pode esconder fragilidade.

Que um sistema pode parecer seguro justamente porque traduz sua incerteza em uma aparência de precisão.

O artigo de Pedro Borges Mourão é importante porque fornece uma demonstração técnica rigorosa dessa camada invisível do problema.

Ele mostra, no plano empírico, que a confiança em IA jurídica não pode ser construída apenas sobre interfaces amigáveis, métricas elevadas ou respostas convincentes.

A confiança precisa ser qualificada.

Precisa envolver rastreabilidade.

Precisa envolver validação.

Precisa envolver revisão humana.

Precisa envolver compreensão dos modos de falha.

Precisa envolver governança.

A IA pode ser uma ferramenta poderosa para o Direito.

Mas somente será uma ferramenta institucionalmente responsável se seus usuários compreenderem que ela não opera como um jurista.

Ela não lê como um juiz.

Ela não interpreta como um advogado.

Ela não compreende como um professor de Direito.

Ela calcula, aproxima, prediz, classifica, ranqueia, recupera e gera linguagem com base em arquiteturas técnicas que possuem limites próprios.

Ignorar esses limites é transformar eficiência em vulnerabilidade.

A pergunta que se impõe não é apenas:

a IA acertou a resposta?

A pergunta mais profunda é:

como essa resposta foi formada, quais aproximações a sustentaram e que tipo de confiança ela produziu no operador humano?

Enquanto essa pergunta não fizer parte da cultura jurídica, continuaremos expostos a uma ilusão perigosa: a de que a máquina compreendeu, quando talvez ela apenas tenha calculado proximidades.

E, no Direito, essa diferença pode mudar tudo.

Referência principal

MOURÃO, Pedro Borges. Cosseno 0,99 não é compreensão: anisotropia, polaridade e a competência jurídica diante da recuperação densa. Preprint/manuscrito, 27 jun. 2026.