Confiança Calibrada: Por Que Equipes Confiam Demais (ou de Menos) na IA

Muitas empresas brasileiras já passaram da fase de "testar IA" para a fase de "confiar (ou não) nas recomendações que a IA gera todos os dias" — em crédito, em triagem de currículos, em previsão de demanda, em resumos jurídicos. E é exatamente nesse ponto que aparece um problema que nenhum treinamento de prompt resolve: as pessoas não sabem calibrar a própria confiança. Ou aceitam a resposta do modelo sem questionar, ou desconfiam de tudo e voltam a fazer manualmente o que a ferramenta já faz melhor. Nos dois casos, a empresa perde o investimento que fez.

Dois vieses, o mesmo prejuízo

A literatura de comportamento organizacional já tem nome para os dois extremos. O primeiro é o automation bias: a tendência de aceitar uma recomendação automatizada só porque ela parece mais objetiva, mesmo quando quem está na ponta tem informação de contexto que o modelo não tem. O segundo é o oposto, chamado de algorithm aversion: pesquisas conduzidas por Berkeley Dietvorst e colegas mostraram que as pessoas perdem a confiança em um algoritmo muito mais rápido do que perderiam em um colega humano, depois de ver o mesmo tipo de erro — mesmo quando o algoritmo, em média, erra menos.

O ponto central é que a maioria das equipes não calibra: escolhe um dos dois extremos e mantém essa postura independentemente do desempenho real da ferramenta. O fator que mais pesa nessa escolha não é a taxa de acerto do modelo, é o quanto aquela decisão específica é sentida como pessoal, arriscada ou ligada à identidade profissional de quem decide. É por isso que a mesma equipe pode confiar cegamente em uma IA que sugere o texto de um e-mail e, ao mesmo tempo, rejeitar sumariamente uma IA que sugere a priorização de um cliente em risco de churn.

Confiança não é traço de personalidade — é competência que se treina

O erro mais comum na liderança é tratar isso como uma questão de perfil individual: "fulano é mais aberto a tecnologia, beltrano é mais cético". Na prática, a condição sob a qual as pessoas se engajam com uma recomendação de IA é definida pela organização, não pelo temperamento de cada um. É a liderança que estabelece quem tem autoridade para contestar uma recomendação, quais verificações são obrigatórias antes de agir, e como o desacordo é tratado quando alguém decide ir contra o que o modelo sugeriu.

Um estudo recente publicado na Academy of Management Perspectives descreve isso como uma "rotina de calibragem de confiança": um processo explícito para decidir, caso a caso, quando uma equipe deve seguir a IA e quando deve sobrepor o julgamento humano — em vez de deixar essa decisão à intuição de cada colaborador no calor do momento. E há um alerta importante nesse tipo de pesquisa: ter uma pessoa formalmente "no circuito" (o clássico human-in-the-loop) não resume o problema. Quando essa pessoa apenas confirma o que a máquina já decidiu, sem poder real de intervenção, a proteção que o desenho deveria oferecer simplesmente desaparece — e ninguém percebe até o primeiro erro caro.

O que a liderança precisa institucionalizar

Calibrar confiança não é uma palestra de sensibilização, é desenho organizacional. Consultorias que acompanham implantações de IA em contextos de alto risco (segurança nacional, crédito, saúde) convergem para um conjunto de práticas parecido:

• Avaliação de contexto obrigatória antes de qualquer recomendação de IA ser adotada em decisões relevantes — não uma confirmação pro forma, mas um passo que exige que a pessoa registre o que sabe e o modelo não sabe.
• Direito de veto com respaldo institucional: quem discorda da IA precisa poder agir sobre isso sem temer ser penalizado por "não seguir o sistema".
• Limites explícitos para ação autônoma, deixando claro em que faixa de decisão a IA pode agir sozinha e em que faixa exige aprovação humana prévia.
• Preservação deliberada de competência interna: garantir que a equipe continue capaz de tomar a decisão sem a ferramenta, para não perder a régua de comparação.
• Revisão sistemática dos casos de divergência — quando a IA discorda do time e quando o time discorda da IA — como insumo contínuo de calibração, não como auditoria punitiva.

O termômetro da calibração

Existe um sinal simples para saber se uma equipe está calibrada ou apenas obediente: com que frequência ela rejeita uma recomendação de IA com uma justificativa documentada. Se esse número é próximo de zero, é bom indício de automation bias instalado — a equipe deixou de exercer julgamento. Se é sistematicamente alto e sem padrão identificável, o problema pode ser o oposto: desconfiança generalizada que está jogando fora o valor da ferramenta.

O objetivo não é atingir um número mágico de "quantas vezes a equipe deveria discordar da IA". É garantir que a discordância, quando acontece, seja uma escolha informada — e não um reflexo emocional de quem teve uma vez a sensação de ter sido pego de surpresa por um erro do modelo. Para lideranças que estão investindo pesado em adoção de IA, essa é uma métrica de governança tão relevante quanto taxa de uso ou ganho de produtividade — e, até agora, é a que menos aparece nos relatórios de acompanhamento.