Quem decide na sua empresa não está no organograma

Seus agentes de IA decidem sem caixinha no organograma, que continua desatualizado

Em 31 de maio de 2009, um Airbus A330 decolou do Galeão, no Rio, com destino a Paris. Era o voo AF 447. A bordo, duzentas e vinte e oito pessoas, cinquenta e oito delas brasileiras.

Quatro horas depois da decolagem, sobre o Atlântico, três sensores de velocidade congelaram em uma área de turbulência. Uma falha técnica menor, do tipo que aviões enfrentam todos os dias. Sem dados confiáveis, os sistemas automatizados fizeram o que estavam projetados para fazer: desligaram-se e devolveram o comando aos pilotos. Os pilotos não souberam o que fazer com o comando.

Pierre-Cédric Bonin, o copiloto no controle, puxou o manche para cima. O avião subiu, perdeu sustentação, entrou em estol. Começou a cair. Por três minutos e meio, em queda sobre o oceano, dois copilotos tentaram entender o que estava acontecendo com a aeronave que pilotavam.

Quando a caixa-preta foi recuperada, dois anos depois, no fundo do Atlântico, ouviu-se a última frase audível do AF 447. Em francês, na voz do copiloto. Poucas palavras: “Mas o que está acontecendo?”

As 228 pessoas a bordo não morreram porque a tecnologia falhou. Morreram porque os pilotos, formados numa geração de aeronaves cada vez mais automatizadas, haviam perdido algo ao longo de anos de delegação à máquina, sem perceber. Perderam o instinto de voar. E descobriram isso no pior momento possível.

Essa história parece ser sobre aviação. Eu a conto porque ela descreve o que começa a acontecer com líderes que delegaram decisões a agentes de IA sem desenhar a arquitetura que governa essa delegação: a perda lenta e imperceptível de uma capacidade essencial, percebida só quando o sistema falha e o humano volta a precisar dela.

Com uma diferença. Aqui a queda não dura três minutos e meio. Dura anos. E é confortável, até deixar de ser.

• • •

Em maio de 2023, Greg Jackson, CEO da Octopus Energy, contou publicamente que a IA integrada ao atendimento da empresa já fazia o trabalho de 250 atendentes. O sistema respondia a mais de um terço dos e-mails recebidos, com índices de satisfação superiores aos dos humanos e custo marginal próximo de zero. O melhor atendente da empresa havia deixado de ser humano. E ninguém tomou essa decisão.

Nenhuma reunião de diretoria votou a mudança. Nenhuma política de delegação foi reescrita. A fronteira da empresa se moveu sozinha.

A maioria das organizações ainda não deu nome a esse momento. Ele chega bem depois que a IA entra na empresa: é o dia em que ela passa a pertencer a ela.

• • •

Em 1937, um economista britânico chamado Ronald Coase fez uma pergunta que parecia simples e mudou o jeito como entendemos as organizações: se o mercado coordena compradores e vendedores com tanta eficiência, por que as empresas existem?

A resposta dele era elegante. Empresas existem porque usar o mercado tem custo. Custo de procurar, negociar, fiscalizar, corrigir. Quando coordenar internamente, por hierarquia e autoridade, fica mais barato do que negociar tudo lá fora, a firma se justifica. Ela cresce até o ponto em que o custo interno passa a superar o custo externo. Ali está a fronteira.

Por quase um século, essa fronteira foi governada por uma lógica estável: pessoas, dentro de estruturas, decidindo dentro de alçadas definidas.

A IA agêntica está dissolvendo essa lógica a uma velocidade que as estruturas organizacionais não conseguem acompanhar.

Quando um agente faz triagem de contratos, aprova reembolsos, prioriza leads, responde a clientes ou coordena entregas, a um custo marginal próximo de zero, a equação de Coase muda de natureza. O ponto já não é o barateamento de certas atividades. A própria lógica que justificava a hierarquia para coordená-las começa a evaporar. E, com ela, some algo mais sutil: a nitidez de quem, de fato, decide.

O que acontece quando um agente aprova uma proposta comercial fora dos parâmetros esperados? Quando um sistema de precificação ajusta as margens no meio de uma crise de mercado? Quando um agente de conformidade rejeita uma operação que o CEO já havia sinalizado como estratégica?

Em organizações sem arquitetura de delegação, a resposta é improvisada. E improvisar, em sistemas que operam em velocidade de máquina, custa diferente do que custava quando o pior caso era um gerente tomando uma decisão ruim numa tarde de segunda-feira. Agente que falha se corrige. O problema sério é o líder que já não sabe o que seus agentes estão decidindo e deixou de perguntar.

• • •

Na virada dos anos 2000, fazendeiros do meio-oeste americano começaram a adotar irrigação automatizada. Sensores de umidade no solo, válvulas programáveis, algoritmos que calculavam, hora a hora, quando e quanto irrigar. No começo, cada produtor acompanhava os relatórios, revisava parâmetros, fazia perguntas.

Depois, como o sistema funcionava bem, as perguntas foram se esgotando. Os relatórios eram abertos com menos frequência. As decisões do sistema passaram a ser aceitas sem verificação.

Em 2012, pesquisadores da Universidade de Nebraska documentaram algo assustador: muitos produtores já não conseguiam explicar por que seus campos eram irrigados daquela forma. Sabiam que o sistema decidia. Não sabiam por quê. Em vários casos, não sabiam sequer quando o sistema havia alterado os próprios parâmetros.

O fazendeiro ainda assinava os cheques. Ainda constava como dono. Mas as decisões que determinavam a produtividade daquela terra, as que de fato importavam, haviam migrado para outro lugar.

Qual é o equivalente corporativo desse fazendeiro?

É o CFO que assina o balanço de uma empresa cujos agentes de precificação, concessão de crédito e alocação de estoque operam, há meses, sem revisão humana de fato. É o CEO que leva ao conselho uma estratégia que, na prática, é executada por sistemas que ninguém auditou. É o conselho que aprova o orçamento de uma empresa cujos limites de decisão reais estão definidos em configurações de software que nenhum membro chegou a ler.

Os pilotos do AF 447 não eram incompetentes. Para o padrão de sua geração, eram excepcionalmente bem treinados. Os fazendeiros de Nebraska não eram tolos; adotaram a tecnologia que a indústria inteira recomendava. Ninguém ali falhou por ignorância ou má-fé. Falharam porque a fronteira entre o que o sistema decide e o que o humano decide nunca foi delineada com a precisão que a situação exigia. E quando a falha veio, porque ela sempre vem, em algum momento, de alguma forma, não havia tempo para projetar a arquitetura que deveria ter sido projetada antes.

É esse padrão que a maioria das organizações repete agora, em silêncio.

Coase nos ensinou que a empresa é uma resposta ao custo de coordenação. A IA agêntica está derrubando esse custo em categorias inteiras de trabalho, mais rápido do que a governança consegue acompanhar. A empresa não vai desaparecer por isso. Mas a fronteira dela está sendo redesenhada. E quem não projetar esse redesenho vai acordar, como o fazendeiro de Nebraska ou o copiloto do AF 447, num território que ainda tem seu nome, mas que há muito deixou de ter sua direção.

Existe uma distância enorme entre a empresa que tem agentes e a que governa uma operação agêntica. Capacidade se compra. Arquitetura se projeta.

Arquitetura é saber, com precisão, o que cada agente pode decidir sozinho, até onde vai sua autonomia, quem responde quando ele erra e com que frequência seus limites são revisados. É ter um humano, com nome e sobrenome, responsável por cada domínio de decisão entregue a um sistema autônomo. É um conselho que enxerga a estrutura de delegação, não apenas os resultados que ela produz. Sem isso, não há delegação. Há abandono de decisão.

A governança agêntica costuma ser tratada como um freio. Na prática, é o que permite escalar autonomia sem perder a autoria. E quem constrói essa arquitetura agora não o faz por cautela. Faz por precisão, porque, em sistemas que rodam na escala e na velocidade da máquina, precisão é a única forma de garantir que quem assina o cheque seja também quem governa a decisão.

• • •

Faça o teste de cabeça agora:

Quantos domínios de decisão na sua empresa já são executados por um sistema sem um responsável humano claro?

Quando foi a última vez que o seu conselho revisou os limites de autonomia desses sistemas, e não apenas os resultados que produziram?

Se o seu melhor “funcionário” hoje é um agente, quem aprovou que ele assumisse essa decisão?

Se você travou em alguma delas, tecnologia não é o seu problema. Falta arquitetura. E arquitetura se projeta antes da falha.

• • •

Tenho um ritual no início de todo projeto. Antes de qualquer diagnóstico, peço ao cliente o organograma mais recente. Quero entender a estrutura antes de entender o problema. A resposta, em quase todos os casos, é a mesma: “esse aqui está desatualizado”. Às vezes acompanhada de um pedido de desculpas. Às vezes, da promessa de uma nova versão até o fim do mês, que raramente se concretiza.

Durante anos, tratei isso como um detalhe. Hoje leio como sintoma. Se o mapa das pessoas já não acompanha o movimento da empresa, qual mapa acompanha o movimento dos agentes? O organograma desatualizado é a versão benigna do problema: a empresa que não consegue desenhar a própria estrutura humana com certeza não desenhou a estrutura de decisão das suas máquinas. Agente não aparece no organograma. Decide sem caixinha nem linha pontilhada.

Tenho passado os últimos anos nessa conversa com presidentes, conselheiros e fundadores de empresas que entenderam que delegar a agentes exige a mesma disciplina que delegar a executivos. O que aprendi com eles: existe uma pergunta anterior a “quais agentes devo adotar?”. Antes de delegar a próxima decisão a um sistema autônomo, você sabe quem é responsável quando ele errar?

A Octopus Energy não planejou ter um agente como melhor atendente; aconteceu. Os fazendeiros de Nebraska foram perdendo a autoria das decisões sobre a própria terra sem nunca decidir perdê-la. E os pilotos do AF 447 achavam que ainda sabiam voar, até precisarem provar.

Seus agentes vão assumir mais decisões na sua empresa; isso já está dado. A pergunta é outra. Quando o sistema falhar, e em algum momento ele vai falhar, você ainda vai saber pilotar?

Ou vai olhar para a própria empresa, no instante em que mais precisar dela, e perguntar:

“Mas o que está acontecendo?”

• • •

Escrevo sobre esse redesenho toda semana para presidentes e conselhos no Radar Mirach. Se quer pensar na fronteira da sua empresa antes que ela se mova sozinha, é o melhor lugar para começar.

E se você já suspeita que delegou decisão sem governar, é esse desenho que faço com conselhos e fundadores. Uma conversa de 30 minutos costuma bastar para identificar o primeiro ponto cego.