
Aprovação humana na superinteligência: a régua de decisões por risco
Uma régua por risco e impacto para decidir quando o agente de IA age sozinho e quando a pessoa precisa aprovar, com exemplos de decisões de negócio.
Quer aplicar isso na sua empresa?
Agendar conversa com o Juan →Aprovação humana na superinteligência é a definição, antes de qualquer automação, das ações que um agente pode executar sem revisão e das que exigem a autorização de uma pessoa. A resposta prática não depende de quão avançado é o modelo, e sim de duas perguntas: quanto dano uma decisão errada causa e quão difícil é desfazê-la. Uma régua que combina risco, impacto e reversibilidade separa o que o agente faz sozinho do que volta para o responsável.
Principais pontos
- A permissão de um agente deve seguir o impacto da decisão, não a confiança genérica no modelo.
- Decisões irreversíveis, que mexem com dinheiro, dados pessoais ou direitos de alguém, ficam com a pessoa.
- Ações rotineiras, baixas e reversíveis podem ser executadas pelo agente, com registro e revisão periódica.
- A régua precisa estar escrita nas permissões das ferramentas, e não apenas nas instruções do prompt.
- Antes de liberar qualquer faixa de autonomia, teste o fluxo com dados simulados e um piloto controlado.
O que muda quando falamos de superinteligência
Superinteligência ainda é um tema de pesquisa e de debate, e não algo que uma empresa contrata hoje. O que as empresas operam no dia a dia são agentes de IA com acesso a ferramentas, a sistemas e a clientes. A diferença entre os dois cenários é de escala: quanto mais um sistema consegue agir, mais precisa existir um desenho claro de quem decide e de quem responde pelo resultado.
Por isso, a régua que proponho serve tanto para um agente de atendimento no WhatsApp quanto para qualquer sistema que venha a ter mais autonomia no futuro. O princípio não muda: autonomia proporcional ao risco, com a pessoa certa em cada ponto de decisão. Para entender a diferença conceitual entre os termos, vale ler AGI e superinteligência: o que sua empresa opera.
A régua: risco, impacto e reversibilidade
A pergunta "o modelo é confiável?" é a errada para decidir a aprovação. Mesmo um modelo que acerta na maior parte das vezes pode errar em um caso que custa caro, e a confiança média não protege a empresa desse caso. A pergunta útil é outra: se essa ação der errado, quem sofre, quanto custa corrigir e dá para voltar atrás?
Risco é a chance de erro naquele tipo de decisão, considerando ambiguidade dos dados, informação incompleta e pedidos fora do roteiro. Impacto é a consequência do erro para o cliente, para a empresa ou para terceiros, nos planos financeiro, jurídico e reputacional. Reversibilidade é a possibilidade de desfazer a ação sem dano relevante, como estornar uma cobrança indevida ou reenviar uma mensagem corrigida. O NIST, no seu AI Risk Management Framework, trata a gestão de risco de IA como um processo contínuo de governança, mapeamento, medição e tratamento, e essa lógica combina bem com uma régua revisável.
Quatro faixas de decisão
Na prática, a régua vira quatro faixas. Cada ação do agente cai em uma delas, e a faixa define o que acontece antes de ser executada.
- Faixa 1, baixo risco e baixo impacto, reversível: o agente executa sozinho e registra a ação. Exemplos típicos são confirmar um horário já disponível ou enviar um lembrete previsto no contrato de atendimento.
- Faixa 2, baixo risco mas alto impacto: o agente prepara a ação e a pessoa aprova. Exemplo: montar uma proposta de desconto para um cliente que já é conhecido.
- Faixa 3, risco médio ou variável, com impacto limitado: o agente age dentro de limites explícitos, como um valor máximo ou um tipo de caso, e uma amostra das ações é revisada depois.
- Faixa 4, alto impacto ou irreversível: a pessoa decide e o agente apenas recomenda, organizando as informações necessárias para a decisão.
A régua não precisa ser perfeita para começar. Ela precisa ser clara o bastante para que duas pessoas da equipe classifiquem a mesma ação da mesma forma.
Decisões que nunca devem ficar sozinhas
Algumas decisões devem ficar com uma pessoa mesmo que o agente esteja muito bem avaliado. Entre elas, estão a autorização de pagamentos e reembolsos acima do limite combinado, o cancelamento de contratos, a alteração de preços, a negativa de um atendimento ou de um direito, a resposta a uma reclamação pública e qualquer tratamento de dados sensíveis.
No caso de decisões tomadas somente por meio automatizado que afetem interesses de uma pessoa, a LGPD prevê, no artigo 20, o direito de solicitar revisão. Por isso, o desenho precisa oferecer um caminho real de revisão humana, e não apenas um formulário sem resposta. Para o recorte jurídico, o artigo sobre decisões automatizadas na LGPD e o direito de revisão detalha o que observar.
Passo a passo para montar a sua régua
Para montar a régua na sua empresa, siga esta sequência. Ela evita começar pela ferramenta e garante que a decisão nasça do processo.
- Liste as ações que o agente consegue executar hoje, consultando as ferramentas e integrações reais, e não apenas as que você imagina.
- Para cada ação, registre o dano possível de um erro e quem seria afetado.
- Marque se a ação é reversível e em quanto tempo um erro pode ser corrigido.
- Atribua um dono humano para cada classe de decisão, com nome e função.
- Defina limites concretos, como valor máximo, tipo de cliente, tema ou canal, que separam uma faixa da outra.
- Teste a régua em um ambiente de simulação antes de liberar qualquer ação real.
- Revise a régua depois de um período de operação, com base nos registros e nas exceções encontradas.
Nosso método segue a mesma lógica: mapear o processo atual e a linha de base, limitar dados e ações, pilotar um fluxo real com registros e uma métrica de sucesso combinada antes, e então transferir a operação e decidir se o fluxo deve ser expandido, ajustado ou encerrado. A régua de aprovação é uma das primeiras peças que entram nessa etapa de limitar.
Cenário ilustrativo: compras com aprovação em camadas
Cenário ilustrativo: uma loja de materiais para obra usa um agente para comparar cotações de fornecedores já cadastrados. Até um valor combinado, o agente pode emitir o pedido a um fornecedor homologado, porque a ação é reversível dentro do prazo de cancelamento e o impacto é contido. Acima desse valor, o agente monta o comparativo e envia ao gestor de compras, que aprova ou rejeita. Quando surge um fornecedor novo, a decisão sempre volta para a pessoa, porque o risco de cadastro, de prazo e de qualidade não pode ser avaliado apenas com os dados disponíveis. Um exemplo parecido aparece em agente de IA para compras que compara cotações e pede aprovação.
Registro da aprovação e erros comuns
A aprovação só tem valor se a pessoa tiver informação suficiente para decidir. Cada pedido de aprovação deve mostrar o que o agente propõe, a regra que disparou a revisão, os dados usados e a alternativa recomendada. Também é preciso registrar quem aprovou, quando e com que decisão, para que a empresa consiga auditar o processo depois.
Há três erros frequentes. O primeiro é pedir aprovação para tudo, o que gera fadiga e leva as pessoas a aprovar sem olhar. O segundo é dar ao agente uma ferramenta com permissão ampla demais e depender apenas do prompt para ele não usá-la. O terceiro é ignorar que mensagens recebidas de clientes podem conter instruções que tentam mudar o comportamento do agente. O OWASP descreve esse risco de prompt injection e recomenda que controles importantes fiquem fora do texto que o modelo lê. Para a parte de permissões, o princípio do menor privilégio, descrito nas orientações de autorização do OWASP, é o ponto de partida.
Perguntas frequentes
A superinteligência já é algo que uma empresa precisa aprovar hoje? Ainda não, no sentido de sistemas com capacidade geral superior à humana. O que as empresas operam são agentes de IA com ferramentas e permissões, e a régua de aprovação já se aplica a eles.
Quem deve ser o aprovador de uma ação do agente? Deve ser a pessoa que responde pelo resultado daquele processo, como o gestor financeiro para pagamentos ou o responsável de atendimento para exceções de cliente. Em empresas pequenas, a mesma pessoa pode acumular papéis, mas o dono de cada classe de decisão precisa estar definido por escrito.
A aprovação humana não vai atrasar o atendimento? Ela atrasa apenas as decisões que realmente precisam de revisão, que costumam ser minoria quando a régua está bem feita. As ações de baixo risco continuam automáticas, e a revisão entra com contexto pronto, o que reduz o tempo de decisão.
Preciso de um advogado para definir essas regras? Para decisões que afetam direitos de clientes, como revisão de decisões automatizadas e tratamento de dados pessoais, vale ouvir um profissional da área jurídica. A régua técnica pode ser desenhada pela equipe de operações, mas o enquadramento legal precisa ser validado antes do uso em produção.