Camada de superinteligência para empresas: memória, permissões e avaliações

Camada de superinteligência para empresas: memória, permissões e avaliações

A camada de operação em torno dos modelos: memória, ferramentas, permissões, avaliações e aprovação humana, pronta para trocar de modelo sem refazer o processo.

•

Quer aplicar isso na sua empresa?

Agendar conversa com o Juan →

Uma camada de superinteligência para empresas é a estrutura de operação montada em volta de um modelo de IA: memória, ferramentas, permissões, avaliações e aprovação humana. O modelo fornece a capacidade de interpretar e redigir, mas é a camada que decide quais dados ele enxerga, quais ações pode executar e quem confere o resultado. Como essa camada fica separada do modelo, a empresa pode trocar de modelo quando surgir uma opção melhor sem reconstruir o processo inteiro.

Principais pontos

  • A camada fica entre o modelo e o negócio: ela define contexto, ferramentas, limites e registros.
  • A memória precisa ser curada, porque o agente deve consultar o que foi autorizado, não tudo o que existe.
  • Permissões devem ser concedidas ação por ação, com o mínimo necessário para o processo funcionar.
  • Avaliações com casos reais mostram se uma troca de modelo melhorou ou piorou o resultado.
  • A aprovação humana fica nos pontos de risco, com registro do que foi decidido e por quê.

O que essa camada contém, peça por peça

A forma mais útil de pensar na camada é como um conjunto de contratos. O modelo recebe um contexto, pode chamar algumas ferramentas, devolve uma resposta e deixa um registro do que fez. Cada peça precisa de um dono dentro da empresa, de um critério para dizer que está funcionando e de um jeito seguro de ser desligada.

A memória cuida do que o sistema sabe no momento da resposta. Ela pode ser a conversa atual, uma base de documentos consultada sob demanda (o padrão conhecido como geração aumentada por recuperação) ou um conjunto de fatos cadastrados, como o status de um pedido. As ferramentas são as integrações que o agente aciona, como consultar o sistema de estoque ou criar um rascunho de proposta. As permissões definem o que cada ferramenta pode fazer. Os registros guardam entradas, saídas e decisões para que alguém consiga reconstruir o caminho depois. As avaliações medem a qualidade com casos conhecidos. A aprovação humana define quem assume a decisão quando o caso sai da regra.

Nenhuma dessas peças depende de um modelo específico. Por isso, quando um modelo novo melhora a redação ou o raciocínio, a empresa consegue testá-lo nas mesmas avaliações, com as mesmas permissões e o mesmo registro. Se ele piorar em algum ponto, a troca é revertida sem drama.

Memória: o que o agente deve lembrar e o que deve esquecer

Memória é o ponto em que a empresa mais tende a exagerar. A tentação é dar ao agente acesso a tudo, na esperança de que ele responda melhor. Na prática, quanto mais contexto irrelevante entra na conversa, maior a chance de uma resposta confusa ou de uma informação de outro cliente aparecer no lugar errado.

Uma regra simples ajuda: a memória deve conter apenas o que é necessário para o próximo passo do processo. Para um agente de pós-venda, isso pode ser a data da entrega, o status da garantia e o último contato. Histórico financeiro completo, por exemplo, normalmente não precisa estar disponível para ele responder uma dúvida sobre prazo.

No contexto brasileiro, essa decisão também é jurídica. A LGPD pede finalidade, necessidade e segurança no tratamento de dados pessoais, então a memória do agente precisa ter prazo de retenção, forma de correção e um responsável identificado. Se a base de conhecimento ou o provedor de modelo estiver fora do Brasil, vale verificar as regras de transferência internacional de dados com IA antes de liberar qualquer dado pessoal.

A qualidade da memória depende também da qualidade dos dados de origem. Um agente só recupera bem o que está organizado, com nomes de campos consistentes, datas no mesmo formato e versões de documentos claras. Sem essa base, a camada apenas espalha confusão com mais eloquência.

Permissões: cada ação precisa de um motivo

O princípio mais importante aqui é o do menor privilégio. O agente deve ter acesso de leitura quando só precisa consultar, e acesso de escrita apenas para ações específicas, com limites de valor, de quantidade ou de tipo de registro. Uma credencial única com poder total para o sistema inteiro é o caminho mais curto para um incidente.

Há também um risco específico de modelos de linguagem. Textos que chegam de fora, como mensagens de clientes, comentários em avaliações ou conteúdo de páginas consultadas, podem conter instruções disfarçadas que tentam mudar o comportamento do agente. As orientações do OWASP sobre injeção de prompt recomendam tratar esse conteúdo como dado e não como comando, e limitar o que o agente consegue fazer mesmo quando é induzido a tentar algo indevido. Por isso, a permissão para emitir um reembolso não deve depender só da instrução do modelo, e sim de uma regra verificada pelo próprio sistema.

Na prática, isso se traduz em três decisões que o gestor precisa tomar antes de qualquer piloto: quais ferramentas o agente pode chamar, em que condições cada uma pode ser usada e quais ações ficam sempre do lado humano. Essas decisões devem estar escritas, não apenas no prompt.

Avaliações: como saber se a troca de modelo melhorou o processo

Uma avaliação é um conjunto de casos reais, com a resposta esperada ou o critério de aceite para cada um. Sem ela, a empresa só percebe um problema quando um cliente reclama. Com ela, a troca de modelo deixa de ser uma opinião e vira uma comparação.

Um conjunto útil costuma incluir os casos comuns, os casos de borda que já causaram confusão, os casos em que a resposta correta é encaminhar para uma pessoa e alguns casos de tentativa de desvio. Os critérios devem ser observáveis: a informação está correta, a ferramenta certa foi chamada, o limite foi respeitado, o encaminhamento aconteceu quando deveria.

A documentação de avaliação da OpenAI e as orientações da Anthropic sobre avaliações de agentes convergem em um ponto: avalie o resultado final e também os passos intermediários, porque um agente pode chegar à resposta certa por um caminho que a empresa não aceita. Os mesmos testes devem rodar antes e depois de cada mudança de modelo, de prompt ou de ferramenta.

Para testar sem colocar clientes reais em risco, vale usar ambientes simulados. Esse tema é tratado em como testar agente de IA com mocks e sandbox.

Aprovação humana: onde a pessoa precisa decidir

Aprovação humana não é um gargalo a ser eliminado, é uma escolha de desenho. A pergunta útil é qual o custo de errar em cada tipo de decisão e quem tem autoridade para assumir esse custo. Um guia simples ajuda a fazer essa separação:

  • Respostas informativas com fonte verificada podem ser enviadas pelo agente, com registro.
  • Alterações em cadastro, prazo ou status de pedido podem ser feitas pelo agente se houver regra clara e reversão possível.
  • Reembolsos, descontos, exceções de política e promessas de prazo especial exigem aprovação de uma pessoa.
  • Reclamações com sinal de dano, risco jurídico ou dado sensível devem sair do fluxo automático imediatamente.
  • Qualquer caso em que o agente não tenha certeza ou que fuja da regra deve virar encaminhamento com resumo do contexto.

O registro de decisão é tão importante quanto a aprovação. Ele deve dizer o que foi pedido, quais dados foram usados, qual regra foi aplicada, quem aprovou e quando. Sem isso, a empresa não consegue auditar nem melhorar o processo.

Plano de montagem em seis passos

Para uma empresa que quer sair da ideia e chegar a um piloto controlado, uma sequência prática costuma funcionar melhor do que começar pelo modelo:

  • Escolha um processo real e registre como ele funciona hoje, com as exceções que a equipe conhece.
  • Liste as fontes de dados e defina, para cada uma, o que o agente pode ler e por quanto tempo.
  • Desenhe as ferramentas com permissões mínimas e critérios de uso escritos.
  • Monte um conjunto de avaliações com casos reais, incluindo os casos de borda e os de encaminhamento.
  • Rode um piloto com registro completo, supervisão humana nos pontos de risco e uma métrica de sucesso acordada antes.
  • Com base nos resultados, decida se a camada expande, ajusta ou para, e transfira a operação com documentação.

Cenário ilustrativo: troca de modelo sem mudar o processo

Cenário ilustrativo: uma distribuidora usa um agente no WhatsApp para confirmar pedidos, informar status de entrega e abrir solicitações de troca. A camada tem memória limitada aos pedidos do cliente, ferramentas de consulta e de abertura de chamado, permissão de escrita apenas para chamados, e encaminhamento obrigatório para qualquer pedido de exceção de preço. Quando surge um modelo novo, a equipe roda o conjunto de avaliações de pedidos, trocas e casos ambíguos. O modelo novo redige melhor, mas erra mais na leitura de datas de entrega em feriados. A equipe ajusta a regra de cálculo de prazo, que fica no sistema e não no prompt, repete os testes e só então libera a troca. Nada disso exigiu reescrever o fluxo, porque a operação estava separada do modelo desde o início.

Como o método de Juan se aplica

O método que usamos segue quatro passos: mapear o processo atual e a linha de base, limitar dados e ações, pilotar um fluxo real com registros e uma métrica combinada, e então transferir a operação e decidir se expande, ajusta ou encerra. A camada descrita aqui é o que torna a etapa de limitar concreta, porque é onde permissões, memória e aprovação ganham forma. Quando a empresa também precisa de operação contínua, esse trabalho pode ser conduzido pela Be Human (be-human.ai), com o mesmo princípio de registros e supervisão.

Perguntas frequentes

A camada de superinteligência é um produto que se compra pronto? Não. Ela é uma forma de organizar a operação em torno de modelos disponíveis, com memória, ferramentas, permissões, avaliações e aprovação humana definidas para o processo da empresa. Parte dela pode usar plataformas prontas, mas as decisões sobre dados e ações continuam sendo da empresa.

Preciso esperar um modelo mais avançado para começar? Não é necessário. O valor da camada está em organizar o processo, os dados e os limites, o que pode ser feito com os modelos atuais. Quando um modelo melhor aparecer, a troca tende a ser mais simples porque a operação já está separada do modelo.

Como evitar que o agente faça algo que não deveria? A combinação mais eficaz é limitar as permissões no próprio sistema, tratar conteúdo externo como dado, exigir aprovação em ações de risco e manter registros completos. Nenhuma instrução no prompt substitui uma regra verificada pelo sistema.

Por onde começar uma camada dessas em uma empresa pequena? Comece por um processo repetitivo e de baixo risco, mapeie o fluxo atual, defina o que o agente pode ler e fazer e monte um conjunto pequeno de casos reais para avaliação. Um piloto com métrica combinada e registro completo mostra rapidamente se vale expandir.

Fontes

superinteligênciaagentes de IAgovernança de IALGPDautomação