Empresas que investem em inteligência artificial para automatizar decisões esbarram em um obstáculo pouco discutido: os próprios funcionários. Mesmo quando um sistema de IA entrega resultados melhores do que processos humanos, equipes inteiras acabam encontrando formas de driblar essas recomendações, criando exceções, revisões extras e travas manuais até esvaziar a autoridade da máquina na prática.
O caso mais ilustrativo envolve um banco global que, no fim de 2022, aprovou um sistema de IA para automatizar decisões rotineiras de crédito. Nos testes-piloto, o sistema processava pedidos mais rápido do que analistas humanos, cometia menos erros e prometia economia relevante. A área de gestão de riscos aprovou, o compliance também, e o próprio CEO divulgou a iniciativa como símbolo de inovação.
Seis meses depois, porém, a maioria das decisões ainda dependia de revisão humana. Salvaguardas que deveriam ser temporárias, como limites para dupla checagem e sinalizações de confirmação manual, viraram etapas fixas do processo. O sistema continuava rodando, mas raramente tinha a palavra final.
Por que a adoção de IA trava mesmo quando o sistema funciona?
O problema não está na tecnologia nem em projetos-piloto malsucedidos. Segundo a análise, o que falha é a estrutura de responsabilização das empresas: elas não se reorganizam para sustentar decisões tomadas por máquinas.
Existe um entendimento institucional sobre quem tem o direito de decidir e de fazer com que essa decisão seja considerada confiável. Quando esse entendimento não inclui a IA, a tecnologia acumula inteligência sem ganhar autoridade real dentro da empresa.
Esse padrão não é novidade. Ondas anteriores de automação, como sistemas de ERP e de credit scoring, já mostraram o mesmo comportamento: as organizações adotam ferramentas capazes de decidir melhor, mas mantêm estruturas de poder que impedem essas decisões de serem aceitas de fato.
Há quem atribua essa resistência à inércia organizacional. Mas, com a IA, o que se vê costuma ser uma conformidade só na aparência: painéis funcionando, fluxos de trabalho incluindo o sistema, funcionários usando a ferramenta. Ainda assim, a máquina não recebe poder de decisão de verdade.
O que acontece quando humano e IA discordam?
Na prática, quando o sistema e um profissional chegam a conclusões diferentes, o humano quase sempre prevalece, de forma discreta. Por prudência, os funcionários criam mais etapas de revisão, reduzem levemente os limites de autonomia da IA e documentam substituições de decisão.
Cada um desses ajustes parece razoável isoladamente. Juntos, porém, esvaziam o propósito do sistema.
O risco cresce com os chamados sistemas de IA agêntica, que não apenas recomendam, mas agem: fazem reservas, aprovam pedidos, encaminham processos e fecham contratos dentro de parâmetros definidos por alguém, sem monitoramento contínuo. Quando esse tipo de agente comete um erro dentro das regras que recebeu, a responsabilização vira um problema jurídico complexo, sem resposta simples sobre quem errou: quem definiu os parâmetros, quem autorizou o escopo de atuação ou o próprio sistema, diante de uma situação não prevista.
Como resolver o impasse entre IA e autoridade humana?
A adoção efetiva de um sistema de IA se reconhece por um sinal claro: os processos ficam mais simples, e as exceções diminuem em vez de se multiplicar. A autoridade é redistribuída de forma explícita, para que todos saibam quem, ou o quê, decide, quem explica o resultado e quem assume o risco.
Para que isso aconteça, líderes precisam responder a quatro perguntas de governança antes de escalar qualquer sistema de IA:
- Quem perde poder de decisão se o sistema funcionar como esperado?
- Quem ganha autoridade, e sobre quais decisões?
- Quem explica os resultados quando o sistema é seguido?
- Quem absorve o risco durante a fase de aprendizado da ferramenta?
Quando a empresa não responde a essas perguntas de forma explícita no momento da aprovação do sistema, elas acabam respondidas depois, de maneira informal, por funcionários que tentam preservar sua própria autoridade.
Qual o próximo passo para as empresas?
A adoção plena de sistemas de IA só se consolida quando seguir as recomendações da máquina deixa de representar um risco profissional para quem trabalha com ela. Isso exige redesenhar funções: com a automação de decisões rotineiras, o papel humano passa a ser de supervisão ampla, definição de limites e aprimoramento contínuo do sistema.
Também é preciso dar às equipes ferramentas para explicar decisões que elas não tomaram pessoalmente, além de apoio visível da liderança, que deve tratar erros iniciais como aprendizado institucional, não como falha individual a ser punida.
Empresas que tratam cada implantação de IA como um projeto isolado tendem a repetir sempre o mesmo ciclo: entusiasmo inicial, contenção, adoção parcial e, por fim, um papel meramente consultivo para o sistema. Já organizações que entendem que o problema central é a distribuição de autoridade, e não apenas a automação em si, conseguem redesenhar fluxos de trabalho em torno das decisões da máquina, em vez de simplesmente sobrepor tecnologia a processos antigos.
Com informações de infomoney.com.br.
