O que não delegar para inteligência artificial na empresa

O que não delegar para inteligência artificial na empresa

Não delegue à inteligência artificial decisões que combinam alto impacto sobre pessoas ou sobre o caixa, difícil reversão e necessidade de alguém responder por elas. A IA pode preparar, resumir e propor, mas nesses casos a decisão final deve ficar com uma pessoa identificada, com autoridade e contexto para assumir o resultado.

Principais pontos

• Três critérios decidem o que fica com pessoas: impacto, reversibilidade e responsabilidade.
• Quanto maior o dano possível e mais difícil desfazer, menor deve ser a autonomia da IA.
• Delegar o preparo (rascunho, resumo, triagem) é diferente de delegar a decisão final.
• Toda decisão precisa de um responsável com nome, e a IA não ocupa esse lugar.
• A fronteira não é fixa: ela se move conforme logs, avaliações e um piloto bem medido.

Por que perguntar o que não delegar antes de perguntar o que automatizar

A maioria das conversas sobre IA nas empresas começa pela oportunidade: o que dá para automatizar. É uma pergunta legítima, mas ela favorece o entusiasmo e deixa os limites para depois do primeiro incidente. Quando o limite aparece só depois de um erro, ele costuma ser desenhado com pressa e com medo.

Inverter a ordem ajuda. Se você define primeiro o que fica com pessoas, o restante pode ser automatizado com mais tranquilidade, porque a área de risco já está cercada. Isso também facilita a conversa com o time, que muitas vezes teme ser substituído e passa a entender onde o julgamento humano continua sendo parte do desenho.

Para escolher o que automatizar primeiro, vale consultar a matriz de decisão para escolher processos. Este texto trata do outro lado: o que deve ficar de fora, ou ficar sob aprovação.

Os três critérios: impacto, reversibilidade e responsabilidade

Não existe uma lista universal de tarefas proibidas. Existe um conjunto de perguntas que, aplicadas a cada decisão, mostram quanto de autonomia a IA pode ter.

• Impacto: se a decisão estiver errada, quem sofre e quanto? Uma resposta mal redigida a um lead é diferente de uma negativa de benefício a um cliente ou de uma advertência a um funcionário.
• Reversibilidade: dá para desfazer? Corrigir um texto interno é barato. Enviar um pagamento, apagar um cadastro, cancelar um contrato ou publicar uma nota em nome da empresa nem sempre tem volta, e quando tem, a confiança perdida não volta junto.
• Responsabilidade: quem responde perante o cliente, o regulador, o juiz ou o conselho? Se a resposta é uma pessoa ou uma área, essa pessoa precisa ter visto e entendido a decisão. Um modelo de linguagem não presta contas, não tem alçada e não assume o erro.

O ponto central é que os três critérios se somam. Uma tarefa de baixo impacto e fácil de desfazer pode ser automatizada com supervisão leve. Uma tarefa com alto impacto, sem volta e com responsabilidade pessoal fica com gente, mesmo que o modelo pareça acertar na maior parte das vezes. Acertar na maior parte das vezes não resolve quando a exceção é o caso que chega ao jurídico.

O que costuma ficar com pessoas

Com base nos três critérios, algumas categorias quase sempre pedem decisão humana. Não é regra fixa, é ponto de partida para a conversa interna.

• Decisões sobre pessoas: contratar, desligar, promover, advertir, avaliar desempenho. Aqui há impacto direto na vida de alguém, risco de viés e deveres trabalhistas. A IA pode organizar informações, mas não deve ser o critério. Sobre triagem de currículos, há mais detalhes em IA no RH, viés e LGPD.
• Decisões financeiras fora de política: conceder crédito, abrir exceção de desconto, aprovar reembolso acima da alçada, autorizar pagamento novo ou alterar dados bancários de fornecedor. O artigo sobre IA no financeiro detalha o que delegar e o que travar.
• Compromissos jurídicos: aceitar contrato, assinar aditivo, responder notificação, prometer prazo ou garantia em nome da empresa.
• Comunicação de crise e reclamações graves: acidente, vazamento, produto com defeito, cliente em sofrimento. Nesses momentos o tom importa tanto quanto o conteúdo.
• Dados sensíveis e vulneráveis: saúde, crianças, situação financeira delicada. A LGPD trata dados sensíveis com cuidado reforçado, e a ANPD é a referência oficial para orientações. Vale ver também LGPD e inteligência artificial para organizar a base legal e o registro.
• Decisões estratégicas e éticas: entrar ou sair de mercado, mudar política de preços, definir o que a empresa aceita ou recusa fazer. A IA pode levantar cenários, mas valores e apostas pertencem a quem responde pelo negócio.
• Ações irreversíveis em sistemas: apagar dados, alterar produção, liberar acessos, mover dinheiro. Mesmo quando o agente tem a ferramenta, a ação deve passar por aprovação.

Delegar o preparo, não a decisão

A maior parte do valor da IA nas áreas de risco está na preparação. O erro comum é tratar a tarefa como tudo ou nada: ou a IA decide, ou não entra. Há um meio-termo útil e seguro.

Na prática, a IA pode ler o histórico do caso, resumir, reunir as regras aplicáveis, apontar inconsistências, redigir um rascunho e sugerir uma recomendação com a justificativa. A pessoa responsável revê, ajusta e decide. O ganho de tempo vem do trabalho de leitura e montagem, que é o que mais consome horas, e o julgamento continua humano.

Para esse meio-termo funcionar, a aprovação precisa ser real. Se a pessoa clica em aprovar sem ler porque o volume é alto, o desenho virou uma decisão automática com fachada humana. Por isso vale medir quanto tempo a revisão leva, quantas sugestões são alteradas e quantas são recusadas. Se ninguém nunca recusa nada, ou o modelo está excelente, ou a revisão não está acontecendo, e só os registros dizem qual dos dois.

Guia de decisão: como classificar cada tarefa

Um roteiro simples, que cabe em uma reunião de uma hora com as áreas envolvidas, ajuda a classificar tarefas sem discussão abstrata.

• Passo um: liste a tarefa em uma frase, com o resultado que ela produz (uma resposta, um pagamento, uma mudança de cadastro).
• Passo dois: descreva o pior erro plausível, não o erro raro e absurdo. Quem seria afetado e como?
• Passo três: pergunte se o erro pode ser detectado e desfeito a tempo, e a que custo.
• Passo quatro: identifique quem responde por essa decisão hoje, pelo cargo e pelo nome.
• Passo cinco: escolha o nível de autonomia: a IA só sugere, a IA executa com aprovação, a IA executa dentro de limites com amostragem de revisão, ou a tarefa fica totalmente humana.
• Passo seis: registre a decisão e a data de revisão. Limites mudam, e o registro evita que a regra vire folclore.

Se a resposta ao passo três for que não dá para desfazer, e ao passo quatro for que alguém responde pessoalmente, o nível de autonomia raramente passa de sugerir ou executar com aprovação explícita.

Cenário ilustrativo: cancelamento com reembolso no WhatsApp

Imagine, como cenário ilustrativo, uma empresa de serviços de instalação que atende clientes pelo WhatsApp. Um cliente insatisfeito pede cancelamento com devolução do valor e menciona que pode procurar o Procon.

Um desenho sensato separa o caso em partes. O agente de IA pode confirmar a identidade, buscar o contrato e o histórico do atendimento, resumir a reclamação e conferir se o pedido se enquadra na política de cancelamento. Pode também responder com cuidado, informando que o caso está em análise e qual será o próximo passo, sem prometer resultado.

O que o agente não faz: aprovar o reembolso fora da política, admitir culpa em nome da empresa, negar o direito do cliente ou responder à menção ao Procon. Ele encaminha o caso a uma pessoa da área responsável, com o resumo pronto e a recomendação justificada. A pessoa decide, e a decisão fica registrada com o motivo.

Nesse desenho, o cliente é atendido rápido, o time ganha o trabalho de preparação adiantado, e quem responde pela decisão continua sendo alguém com nome e alçada. Para o atendimento em geral, o artigo sobre SAC com IA: o que automatizar e o que manter traz a mesma lógica aplicada a mais situações.

Como transformar o limite em controle técnico

Uma regra escrita em documento não impede nada se o agente tem acesso à ferramenta. O limite precisa existir também no sistema.

• Permissões mínimas: o agente só enxerga os dados e só aciona as ações de que a tarefa precisa. Leitura antes de escrita, escrita antes de ações financeiras.
• Aprovação humana embutida: ações de alto impacto geram um pedido de aprovação, e não a execução direta.
• Alçadas em código: valores, tipos de cliente e categorias de caso que exigem pessoa devem ser verificados fora do modelo, por regra determinística, e não só pedidos no prompt.
• Validação de entrada e saída: o que entra e o que sai do agente passa por verificações. O artigo sobre guardrails em agentes de IA explica como organizar isso.
• Registro de decisões: cada ação, aprovação e recusa fica em log, com o contexto usado.

Essas práticas conversam com referências públicas. O OWASP lista, entre os riscos de aplicações com modelos de linguagem, o excesso de autonomia dado ao agente, e o NIST AI Risk Management Framework propõe organizar governança, mapeamento, medição e gestão de riscos. Os Princípios de IA da OCDE também tratam de responsabilização e supervisão humana. Essas fontes ajudam a justificar internamente por que o limite existe.

Como esse raciocínio aparece no método de trabalho

No trabalho de implantação, o método segue quatro movimentos: mapear, limitar, pilotar e transferir. Ao mapear, descrevemos o processo atual e o ponto de partida, incluindo quem decide o quê. Ao limitar, definimos dados acessíveis, ações permitidas e o que exige aprovação humana. Ao pilotar, escolhemos um fluxo real, com logs e uma métrica de sucesso combinada antes. Ao transferir, entregamos a operação e a empresa decide se expande, ajusta ou para.

A fronteira do que fica com pessoas entra principalmente na etapa de limitar, mas é revista no piloto. Se os registros mostram que um tipo de caso é resolvido com consistência e baixo risco, a empresa pode ampliar a autonomia daquele tipo. Se mostram falhas em um ponto sensível, o limite aperta. Para medir isso com método, há o guia de métricas e gates de decisão em pilotos.

Perguntas frequentes

A IA pode tomar decisões na empresa? Pode tomar decisões de baixo impacto e fácil reversão, dentro de regras claras e com registro. Decisões que afetam pessoas, dinheiro relevante ou obrigações jurídicas devem ter uma pessoa responsável, com a IA no papel de apoio.

A LGPD proíbe decisões automatizadas? Não de forma geral, mas a lei prevê o direito de o titular pedir revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Na prática, isso reforça manter uma pessoa capaz de revisar e explicar o resultado. Para casos concretos, vale consultar orientação jurídica e as publicações da ANPD.

Se a IA acerta quase sempre, por que manter uma pessoa na decisão? Porque o custo do erro importa mais que a frequência dele. Em decisões de alto impacto e sem volta, o caso raro é justamente o que gera dano, reclamação formal ou perda de confiança, e alguém precisa responder por ele.

Os limites mudam com o tempo? Sim, e devem mudar com base em evidência. Com logs, avaliações e um piloto medido, a empresa pode ampliar a autonomia em tipos de caso comprovadamente seguros, ou reduzi-la onde há falhas. O importante é que a mudança seja uma decisão registrada, e não um hábito que se instala sozinho.

Fontes

• NIST: AI Risk Management Framework
• OECD: AI Principles
• OWASP: Top 10 for LLM Applications
• ANPD: Autoridade Nacional de Proteção de Dados