O Efeito Peltzman da inteligência artificial: quando a sensação de segurança aumenta o risco institucional

A inteligência artificial costuma ser apresentada às instituições como promessa de eficiência, precisão, segurança e racionalidade decisória.

Ela organiza documentos, classifica riscos, resume processos, identifica padrões, automatiza rotinas, sugere respostas e oferece uma aparência de controle técnico sobre ambientes cada vez mais complexos.

Mas há uma pergunta incômoda que precisa ser enfrentada:

e se a sensação de segurança produzida pela IA estiver estimulando instituições a assumirem riscos que antes evitariam?

Essa pergunta aproxima o debate sobre inteligência artificial de um conceito clássico da economia da regulação e dos estudos sobre comportamento de risco: o chamado Efeito Peltzman.

De forma sintética, o Efeito Peltzman descreve uma situação paradoxal: quando uma medida de segurança é introduzida, alguns indivíduos podem passar a se comportar de modo mais arriscado justamente porque se sentem mais protegidos.

A proteção técnica reduz uma parte do risco, mas também pode alterar o comportamento de quem passa a confiar nela.

O exemplo clássico vem do trânsito: veículos mais seguros, cintos, airbags, freios mais eficientes e sistemas de assistência podem reduzir danos em acidentes. Porém, se o motorista passa a dirigir com menor cautela porque se sente protegido, parte do ganho de segurança pode ser compensada por uma elevação do risco comportamental.

O ponto central não é negar a utilidade da segurança.

O ponto é compreender que toda tecnologia de proteção também reorganiza incentivos.

E esse raciocínio é decisivo para pensar a inteligência artificial nas instituições.

1. A IA como produtora de confiança operacional

Quando um órgão público, tribunal, hospital, escritório, empresa ou setor administrativo adota sistemas baseados em IA, a primeira percepção costuma ser positiva.

A tecnologia promete rapidez, padronização, redução de erros, análise de grandes volumes de dados e apoio à decisão humana.

Esses ganhos podem ser reais.

O problema surge quando a presença da IA passa a produzir uma confiança excessiva no próprio procedimento.

A instituição começa a acreditar que está mais segura porque possui:

relatórios automatizados; sistemas de triagem; modelos preditivos; classificação de risco; painéis de controle; recomendações algorítmicas; automação documental; análise estatística; protocolos digitais.

A consequência pode ser silenciosa: quanto mais sofisticada parece a ferramenta, menor pode se tornar a disposição humana para revisar criticamente o resultado.

Surge, então, um risco específico:

a transferência psicológica da prudência humana para a aparência técnica do sistema.

2. O risco não está apenas no erro da máquina

Boa parte do debate sobre IA ainda se concentra em uma pergunta limitada:

“A IA errou?”

Essa pergunta é importante, mas insuficiente.

Em muitos casos, o problema jurídico e institucional não estará apenas no erro evidente, mas na alteração gradual do ambiente decisório.

A IA pode não decidir formalmente por ninguém.

Ainda assim, pode influenciar profundamente a decisão humana ao selecionar informações, ordenar prioridades, sugerir caminhos, filtrar alternativas, destacar riscos, ocultar variáveis, reduzir complexidade e induzir confiança no resultado apresentado.

A decisão final continuará assinada por um ser humano.

Mas esse ser humano poderá ter decidido dentro de uma arquitetura informacional previamente condicionada.

É nesse ponto que o Efeito Peltzman se torna útil para o debate jurídico.

A IA não apenas oferece segurança.

Ela pode produzir sensação de segurança.

E a sensação de segurança, quando não acompanhada de governança, auditoria e responsabilidade, pode estimular descuido institucional.

3. O Efeito Peltzman institucional

Aplicado à inteligência artificial, o Efeito Peltzman pode ser formulado da seguinte maneira:

quanto maior a confiança institucional na capacidade técnica da IA, maior pode ser a tendência de reduzir cautelas humanas, controles jurídicos e revisão crítica.

Esse fenômeno pode aparecer em diferentes ambientes.

No Judiciário, quando minutas, triagens, resumos processuais ou classificações automatizadas passam a orientar a leitura humana antes mesmo do exame substancial do caso.

Na administração pública, quando sistemas digitais priorizam demandas, classificam cidadãos ou organizam políticas públicas sem transparência suficiente sobre critérios, dados e impactos.

Na saúde, quando protocolos, alertas, predições ou recomendações automatizadas influenciam condutas clínicas, administrativas ou regulatórias sem supervisão adequada.

Nas empresas, quando ferramentas de IA são incorporadas informalmente por equipes inteiras antes da existência de política interna, base legal, avaliação de risco, matriz de responsabilidade ou controle de dados.

Nos escritórios de advocacia, quando a IA passa a revisar documentos, sugerir teses, resumir jurisprudência ou produzir peças sem checagem técnica proporcional ao risco da demanda.

Em todos esses casos, o risco não é apenas tecnológico.

É comportamental, organizacional e jurídico.

A instituição passa a operar como se estivesse mais segura, quando, na verdade, pode ter apenas deslocado o risco para uma camada menos visível.

4. A falsa objetividade como anestesia decisória

A inteligência artificial tem uma característica peculiar: ela frequentemente apresenta seus resultados com aparência de objetividade.

Um relatório automatizado parece neutro.

Uma classificação de risco parece técnica.

Um score parece matemático.

Um resumo gerado por IA parece apenas informativo.

Uma recomendação algorítmica parece apoio, não comando.

Mas a forma técnica da apresentação pode ocultar escolhas anteriores: quais dados foram utilizados, quais variáveis foram priorizadas, quais categorias foram construídas, quais padrões foram considerados relevantes, quais vieses foram incorporados e quais alternativas foram deixadas fora do campo de visão.

A decisão humana, nesse contexto, pode ser influenciada não por coerção direta, mas por arquitetura.

Não se trata de uma ordem.

Trata-se de um ambiente que torna uma escolha mais provável do que outra.

Por isso, o debate sobre IA precisa ultrapassar a pergunta sobre substituição do ser humano.

A questão mais sofisticada é outra:

a IA não precisa substituir a decisão humana para reorganizar as condições em que essa decisão ocorre.

5. Automação, dependência e perda de vigilância

Há uma ironia própria da automação.

Quanto mais um sistema automatizado assume tarefas relevantes, mais o ser humano pode perder contato direto com o processo que deveria supervisionar.

A pessoa permanece formalmente responsável, mas passa a depender de uma camada técnica que nem sempre compreende, controla ou consegue auditar.

Isso cria um problema institucional sério.

O agente humano é mantido como validador final, mas sua capacidade real de validação pode ser progressivamente reduzida.

Ele recebe o resumo pronto.

A classificação pronta.

A minuta pronta.

A recomendação pronta.

A priorização pronta.

A análise de risco pronta.

Com o tempo, aquilo que deveria ser apenas apoio pode se tornar trilho.

E aquilo que deveria ser revisado pode passar a ser apenas confirmado.

Esse é um dos grandes riscos da IA em ambientes decisórios: a substituição silenciosa da análise crítica por uma confiança operacional naquilo que o sistema entrega.

6. Autonomia decisória e vulnerabilidade cognitiva

Esse ponto toca diretamente a autonomia decisória.

A autonomia não depende apenas da existência formal de liberdade.

Depende também das condições informacionais, cognitivas e institucionais em que a decisão é tomada.

Uma pessoa pode formalmente decidir, consentir, contratar, julgar, administrar ou escolher.

Mas se o ambiente decisório foi desenhado para induzir, limitar, priorizar ou condicionar determinadas respostas, a autonomia pode se tornar apenas aparente.

Aqui surge a noção de vulnerabilidade cognitiva.

A vulnerabilidade cognitiva não se limita à ignorância individual. Ela pode ser produzida estruturalmente por excesso de informação, opacidade técnica, assimetria de dados, linguagem inacessível, urgência artificial, interfaces persuasivas, fadiga decisória e dependência operacional.

A IA pode ampliar conhecimento.

Mas também pode ampliar dependência.

Pode apoiar decisões.

Mas também pode reduzir o espaço de contestação.

Pode organizar dados.

Mas também pode estreitar o horizonte interpretativo de quem decide.

O problema não é a tecnologia em si.

O problema é a incorporação da tecnologia sem consciência dos seus efeitos sobre o comportamento humano e institucional.

7. Quando a governança vira mera decoração

Muitas instituições já falam em governança de IA.

O risco é transformar governança em linguagem decorativa.

Políticas internas, comitês, termos de uso e diretrizes genéricas não bastam se não houver controle efetivo sobre o uso real da tecnologia.

A pergunta relevante não é apenas:

“A instituição possui uma política de IA?”

A pergunta correta é:

“A política de IA altera concretamente o comportamento decisório da instituição?”

Há inventário das ferramentas utilizadas?

Há classificação de risco?

Há definição de finalidade?

Há controle sobre dados sensíveis?

Há supervisão humana qualificada?

Há rastreabilidade das decisões?

Há registro do uso da IA?

Há possibilidade de contestação?

Há atribuição clara de responsabilidade?

Há treinamento dos usuários?

Há auditoria periódica?

Há limites para automações informais?

Sem essas respostas, a governança pode se tornar apenas uma camada estética sobre práticas descontroladas.

E é justamente nesse ponto que o Efeito Peltzman se manifesta: a instituição acredita estar protegida porque possui discurso de governança, mas relaxa controles porque presume que o risco está administrado.

8. O risco da IA invisível

A forma mais sensível desse fenômeno é a chamada IA invisível.

Não a IA anunciada em grandes projetos oficiais.

Mas aquela que entra pela rotina.

Pelo servidor que usa uma ferramenta generativa para resumir documentos.

Pelo advogado que confia em uma resposta automática sem revisar a fonte.

Pelo gestor que usa um sistema para priorizar atendimentos sem conhecer seus critérios.

Pelo hospital que adota protocolos digitais sem avaliar a cadeia de responsabilidade.

Pela empresa que automatiza análise de currículos, contratos, reclamações ou indicadores sem discutir discriminação, transparência e revisão humana.

A IA invisível não pede licença institucional.

Ela se infiltra pela promessa de produtividade.

E, quando percebida, já pode ter alterado rotinas, decisões, expectativas e responsabilidades.

O maior perigo não está no uso declarado da tecnologia.

Está no uso difuso, informal, conveniente e não governado.

9. Responsabilidade por arquitetura decisória

O Direito precisará enfrentar uma pergunta cada vez mais relevante:

quem responde quando a decisão humana foi condicionada por uma arquitetura tecnológica inadequada?

A resposta não pode ser simplista.

Nem toda influência será ilícita.

Nem todo uso de IA será abusivo.

Nem toda automação produzirá dano.

Mas quando a tecnologia reorganiza o ambiente decisório, reduz transparência, dificulta contestação, intensifica vulnerabilidades ou induz confiança indevida, a responsabilidade jurídica precisa deixar de olhar apenas para o ato final.

Deve olhar também para a arquitetura que tornou aquele ato provável.

Isso desloca o debate da culpa individual para a governança institucional.

A questão passa a ser:

quem desenhou o sistema? quem escolheu a ferramenta? quem autorizou o uso? quem definiu a finalidade? quem validou os dados? quem supervisionou o resultado? quem poderia ter evitado o dano? quem se beneficiou da automação? quem criou a aparência de segurança?

A responsabilidade, nesse contexto, não nasce apenas do erro final.

Pode nascer da estrutura que produziu confiança indevida, reduziu cautela e deslocou o risco para pessoas vulneráveis ou para decisões sem controle suficiente.

10. A tese central

O Efeito Peltzman nos ajuda a compreender uma dimensão pouco discutida da inteligência artificial:

a tecnologia não apenas executa tarefas; ela altera o comportamento de quem acredita estar protegido por ela.

Esse ponto é decisivo.

A IA pode melhorar procedimentos, mas também pode gerar excesso de confiança.

Pode ampliar eficiência, mas também reduzir prudência.

Pode apoiar decisões, mas também anestesiar o senso crítico.

Pode aumentar controle, mas também criar zonas invisíveis de irresponsabilidade.

Por isso, a pergunta central da próxima década não será apenas se a IA é precisa, segura ou eficiente.

A pergunta será:

as instituições continuarão capazes de decidir criticamente depois de incorporarem sistemas que reorganizam silenciosamente suas condições de decisão?

11. Conclusão

O Efeito Peltzman não ensina que medidas de segurança são inúteis.

Ensina algo mais sofisticado: toda medida de segurança modifica o comportamento humano.

Aplicado à inteligência artificial, isso significa que a promessa de eficiência precisa ser acompanhada de uma análise séria sobre incentivos, dependência, supervisão, responsabilidade e autonomia decisória.

A IA não deve ser rejeitada.

Mas também não pode ser naturalizada como se sua simples adoção representasse avanço institucional.

A tecnologia pode proteger.

Mas a confiança excessiva na tecnologia pode expor.

Pode organizar.

Mas também pode condicionar.

Pode auxiliar.

Mas também pode deslocar responsabilidade.

A inteligência artificial mais perigosa talvez não seja aquela que decide no lugar do ser humano.

Talvez seja aquela que faz o ser humano acreditar que continua decidindo sozinho, quando o ambiente da decisão já foi silenciosamente reorganizado.

Essa é a fronteira crítica entre eficiência e captura.

E é nesse ponto que Direito, governança, ética e responsabilidade institucional precisam entrar antes que a automação se torne hábito, antes que o hábito se torne dependência e antes que a dependência se torne estrutura.

Este texto integra minha pesquisa sobre autonomia decisória, vulnerabilidade cognitiva, governança institucional e responsabilidade em ambientes mediados por inteligência artificial.

Referências de apoio

PELTZMAN, Sam. The Effects of Automobile Safety Regulation. Journal of Political Economy, v. 83, n. 4, p. 677-725, 1975.

WILDE, Gerald J. S. The Theory of Risk Homeostasis: Implications for Safety and Health. Risk Analysis, v. 2, n. 4, p. 209-225, 1982.

BAINBRIDGE, Lisanne. Ironies of Automation. Automatica, v. 19, n. 6, p. 775-779, 1983.

PARASURAMAN, Raja; RILEY, Victor. Humans and Automation: Use, Misuse, Disuse, Abuse. Human Factors, v. 39, n. 2, p. 230-253, 1997.

YEUNG, Karen. Algorithmic Regulation: A Critical Interrogation. Regulation & Governance, v. 12, n. 4, p. 505-523, 2018.