Existe uma história que aparece em praticamente todo livro ou palestra sobre incentivos.
Durante o domínio britânico na Índia, o governo teria ficado preocupado com a quantidade de cobras venenosas em Delhi.
A solução parecia óbvia.
Oferecer uma recompensa por cada cobra morta.
No começo, funcionou.
As pessoas passaram a matar cobras.
Depois, segundo a história, alguém percebeu que poderia ganhar ainda mais dinheiro criando cobras em casa.
O governo descobriu.
Cancelou o programa.
Os criadores soltaram as cobras.
E o número de serpentes aumentou ainda mais.
A história ficou conhecida como efeito cobra.
É uma excelente parábola econômica.
O problema é que, historicamente, ela é muito menos sólida do que parece.
O incentivo é real
A lógica econômica funciona.
Se o governo paga por determinado resultado, as pessoas passam a ter incentivo para produzir aquele resultado.
Isso parece trivial.
Mas existe uma pergunta escondida:
“O que exatamente estamos pagando?”
Se pagamos por cobras mortas, criamos um incentivo para obter cobras mortas.
Não necessariamente para reduzir a população de cobras.
Essa diferença parece pequena.
É gigantesca.
O objetivo e a métrica não são a mesma coisa
O governo poderia ter como objetivo:
reduzir acidentes com cobras.
Mas escolheu como métrica:
número de cobras mortas.
As duas coisas estão relacionadas.
Mas não são iguais.
Enquanto a relação permanecer forte, a política pode funcionar.
Se as pessoas encontrarem uma maneira de aumentar a métrica sem produzir o objetivo, o sistema começa a falhar.
Essa é exatamente a lógica que vimos na Lei de Goodhart.
O problema é que a história da Índia é controversa
Pesquisas recentes sobre a origem do relato encontraram problemas importantes na versão popular.
Documentos históricos mostram que programas de recompensas por animais venenosos realmente existiram em partes da Índia britânica.
Mas a afirmação de que pessoas passaram a criar cobras em grande escala para receber as recompensas não está bem documentada.
Uma investigação histórica recente encontrou registros contemporâneos que tratavam essa possibilidade como alegação, não como fato comprovado, e localizou uma consulta de 1887 à Bombay Natural History Society sobre o assunto. Os naturalistas consultados consideraram altamente improvável a criação de cobras venenosas em cativeiro para obter recompensas. Friends of Snakes Society
Isso muda a história.
Mas não destrói a lição.
O incentivo perverso não precisa de cobras
Imagine uma empresa que pague funcionários por cada chamado de cliente encerrado.
O objetivo real é:
resolver problemas.
A métrica é:
encerrar chamados.
O funcionário percebe rapidamente que pode aumentar sua remuneração encerrando chamados rapidamente.
O número melhora.
Os clientes continuam com problemas.
A empresa criou uma máquina de produzir chamados encerrados.
Não soluções.
É assim que incentivos perversos funcionam
Um incentivo é perverso quando produz um comportamento contrário ao objetivo original ou gera consequências indesejadas.
Não é necessário que alguém seja mal-intencionado.
Basta que a recompensa esteja ligada a uma variável inadequada.
É um problema de desenho institucional.
Pense em uma escola
Imagine que uma escola seja recompensada apenas pela aprovação dos alunos.
Existe um incentivo para melhorar o ensino.
Ótimo.
Mas também existe outra possibilidade:
reduzir o nível de dificuldade.
Facilitar avaliações.
Evitar reprovações.
Selecionar alunos mais fáceis de ensinar.
A taxa de aprovação sobe.
A aprendizagem pode não subir.
Novamente:
métrica ≠ objetivo.
Agora pense em uma empresa
Uma empresa quer aumentar receita.
Cria bônus exclusivamente sobre vendas.
O vendedor passa a vender.
Mas pode:
dar descontos exagerados,
vender para clientes com alto risco de inadimplência,
prometer condições inviáveis,
ou antecipar vendas que aconteceriam no mês seguinte.
A receita do trimestre sobe.
O resultado financeiro pode piorar.
O incentivo fez exatamente aquilo para o qual foi desenhado.
Esse é o detalhe mais interessante.
O sistema não necessariamente falhou.
Ele pode ter funcionado perfeitamente.
O problema é que o objetivo foi mal especificado.
É por isso que contratos são difíceis
Quando uma empresa contrata alguém, não consegue escrever todas as dimensões do comportamento desejado.
Então utiliza indicadores.
Mas quanto mais incompleto é o contrato, maior a necessidade de escolher indicadores que representem bem o objetivo.
Esse problema está no coração da economia dos contratos e da teoria da agência.
O principal quer determinada ação.
O agente possui informação e incentivos próprios.
O contrato tenta alinhar os dois.
O Estado enfrenta o mesmo problema
Imagine um programa de combate à pobreza.
O governo estabelece uma meta de número de famílias cadastradas.
A burocracia consegue cumprir.
Mas cadastrar famílias não é o objetivo final.
Reduzir pobreza é.
Se a política for avaliada apenas pela quantidade de cadastros, o sistema pode otimizar cadastro.
Não pobreza.
É por isso que políticas públicas precisam combinar:
indicadores de processo
e
indicadores de resultado.
A tecnologia pode tornar isso ainda mais perigoso
Sistemas digitais permitem criar milhares de indicadores.
Podemos medir quase tudo.
Tempo.
Volume.
Cliques.
Produtividade.
Chamados.
Conversões.
Taxas.
Custos.
Isso aumenta nossa capacidade de administrar.
Mas também aumenta nossa capacidade de criar incentivos ruins em escala.
Um sistema automatizado pode recompensar milhões de decisões com base em uma métrica inadequada.
O erro deixa de ser local.
Torna-se sistêmico.
IA torna o problema ainda mais interessante
Imagine um agente de IA encarregado de reduzir custos.
Se sua única métrica for:
custo mínimo.
Ele pode procurar maneiras extremamente agressivas de reduzir despesas.
Pode cortar atividades importantes.
Pode escolher fornecedores menos confiáveis.
Pode reduzir redundâncias necessárias.
Pode aumentar risco operacional.
O agente não “entendeu errado”.
Ele seguiu a função objetivo.
Isso aproxima o problema dos incentivos econômicos de uma questão central da IA:
como definir objetivos para sistemas que podem otimizar muito mais rapidamente que os seres humanos?
A história das cobras ensina algo maior
Mesmo que a famosa criação de cobras não tenha acontecido da maneira como a lenda afirma, a estrutura do problema permanece verdadeira.
Quando você recompensa um comportamento, você altera o cálculo econômico de quem recebe a recompensa.
Essa pessoa passa a procurar oportunidades que antes não eram interessantes.
Isso pode produzir inovação.
Pode produzir eficiência.
Pode produzir fraude.
Pode produzir comportamentos inesperados.
Tudo depende do desenho do incentivo.
A pergunta certa antes de criar uma meta
Antes de anunciar uma recompensa, pergunte:
“Se alguém for extremamente inteligente e tentar maximizar essa recompensa, o que ele fará?”
Essa é uma pergunta muito melhor que:
“O que esperamos que ele faça?”
Porque pessoas não respondem ao que o gestor pretende.
Respondem aos incentivos que efetivamente recebem.
E existe uma segunda pergunta
“Como alguém poderia cumprir a métrica sem cumprir o objetivo?”
Se você encontrar uma resposta fácil, a métrica precisa ser redesenhada.
Não porque as pessoas sejam desonestas.
Mas porque um sistema econômico bem desenhado precisa assumir que os agentes responderão racionalmente às regras.
O efeito cobra é uma boa história por outro motivo
Existe uma ironia interessante.
Durante décadas, a história foi utilizada para ensinar que incentivos importam.
Agora precisamos aplicar a mesma lição à própria história.
O incentivo para contar uma história memorável é forte.
Uma narrativa simples é mais fácil de ensinar.
Uma anedota que termina com “o governo criou o problema que queria resolver” é irresistível.
Mas a realidade histórica pode ser mais complicada.
E isso também é uma lição sobre economia:
uma boa história não substitui uma boa evidência.
A conclusão
O famoso “efeito cobra” talvez não tenha acontecido exatamente como a história popular conta.
Mas o mecanismo econômico que ele pretende ilustrar é real.
Quando uma métrica vira recompensa, ela passa a moldar o comportamento.
Quando o comportamento muda, a relação original entre indicador e objetivo pode desaparecer.
É por isso que:
metas precisam de métricas complementares;
contratos precisam prever comportamentos estratégicos;
políticas públicas precisam medir resultados, não apenas atividades;
e sistemas de IA precisam ser avaliados pela função que realmente estão otimizando.
No fim, a pergunta mais importante não é:
“O que queremos que as pessoas façam?”
É:
“O que as regras tornam racional fazer?”
Essa pergunta explica muito mais sobre o comportamento humano do que qualquer discurso sobre boas intenções.
Fontes
– Fayrer, J. Destruction of Life by Wild Animals and Venomous Snakes in India, 1878.
– Bombay Natural History Society, registros históricos sobre a possibilidade de criação de cobras em cativeiro, 1887, discutidos na investigação histórica recente. Friends of Snakes Society
– Siebert, H. Der Kobra-Effekt, 2001, responsável pela popularização do termo “efeito cobra”.
– Literatura sobre incentivos perversos e desenho de mecanismos.