Como auditar conversas de chatbot com IA: amostragem e rubrica

Como auditar conversas de chatbot com IA: amostragem e rubrica

Para auditar conversas de chatbot com IA, separe toda semana uma amostra de tamanho fixo, que misture conversas aleatórias e conversas de risco, e avalie cada uma com uma rubrica curta de três eixos: acerto, tom e risco. A auditoria só tem valor se virar mudança: cada falha recorrente precisa de um responsável, de um ajuste nas instruções, na base de conhecimento ou nos limites do agente, e de uma nova checagem na semana seguinte.

Principais pontos

• Painéis de métricas mostram volume e tempo de resposta, mas não mostram se a resposta estava certa. Só a leitura de conversas mostra isso.
• A amostra semanal deve ter um tamanho que a equipe consiga revisar de verdade, com parte aleatória e parte escolhida por sinais de risco.
• Uma rubrica de três eixos (acerto, tom e risco) com três níveis cada já basta para começar e mantém os revisores alinhados.
• Todo achado precisa ser classificado por causa (conhecimento, instrução, limite, ferramenta ou fluxo) antes de virar ajuste.
• Falhas graves de risco não esperam a rotina semanal: viram incidente no mesmo dia.

Por que ler conversas se já existe um painel de métricas?

Métricas agregadas respondem a perguntas de operação: quantas conversas, quantas foram transferidas, quanto tempo levou. Elas não dizem se o agente informou um prazo errado, se foi seco com um cliente irritado ou se pediu um dado pessoal que não precisava. Duas conversas podem ter o mesmo tempo de resposta e resultados opostos para o cliente.

A documentação da Anthropic sobre avaliação de agentes trata a leitura de transcrições como parte do trabalho de avaliar, não como etapa opcional. Isso faz sentido na prática: é na conversa real que você descobre a pergunta que ninguém previu, o jeito como o cliente escreve no WhatsApp e o ponto em que o agente se perde.

A auditoria de conversas também é um controle de gestão. O NIST AI Risk Management Framework organiza a gestão de risco de IA em funções como governar, mapear, medir e gerenciar. A rotina semanal descrita aqui é, na prática, a parte de medir e gerenciar: olhar o que o sistema fez e decidir o que mudar.

Como montar a amostra semanal?

O erro mais comum é auditar só o que apareceu por acaso ou só o que gerou reclamação. A primeira abordagem deixa passar falhas silenciosas. A segunda cria uma visão distorcida, porque só enxerga o que já deu errado de forma visível.

Uma amostra equilibrada combina dois grupos.

• Amostra aleatória: conversas sorteadas entre todas as da semana, sem filtro. Mostra a qualidade média e as falhas que ninguém reportou.
• Amostra dirigida: conversas escolhidas por sinal de risco. Entram aqui as que foram transferidas para humano, as que terminaram com cliente insatisfeito, as muito longas, as que acionaram uma ação (agendar, cancelar, alterar cadastro) e as que tocam temas sensíveis para o seu negócio.

Defina o tamanho da amostra pela capacidade de revisão, não por ambição. Escolha um número que uma pessoa leia com atenção em uma sessão de trabalho e mantenha-o fixo por algumas semanas, para poder comparar. Se a revisão virar maratona, ela deixa de acontecer.

Dois ajustes valem a pena. Depois de qualquer mudança no agente (instruções, base de conhecimento, ferramentas), aumente temporariamente a parte dirigida, porque é quando surgem regressões. E registre de onde cada conversa veio na amostra, para saber se uma falha aparece no sorteio ou só nos casos escolhidos.

Qual rubrica simples usar: acerto, tom e risco?

Uma rubrica longa não é usada. Três eixos, cada um com três níveis (certo, ajustar, grave), são suficientes para a primeira fase e deixam duas pessoas chegarem a notas parecidas na mesma conversa.

Acerto: a resposta estava correta e resolveu o pedido?

• Certo: a informação bate com a fonte oficial da empresa e o pedido foi resolvido ou encaminhado corretamente.
• Ajustar: a resposta estava parcialmente certa, incompleta, ou exigiu que o cliente perguntasse de novo.
• Grave: informação inventada, desatualizada ou contraditória com a política da empresa.

Tom: a resposta soou como a empresa quer soar?

• Certo: claro, curto, adequado ao canal e à situação do cliente.
• Ajustar: correto, mas longo demais, frio, repetitivo ou com jargão.
• Grave: ignorou a frustração do cliente, foi ríspido ou insistiu em um fluxo que não estava ajudando.

Risco: a conversa expôs a empresa a algum dano?

• Certo: ficou dentro do escopo, sem promessas indevidas e com transferência quando era o caso.
• Ajustar: chegou perto do limite, por exemplo opinando sobre tema fora do escopo ou pedindo dado pessoal além do necessário.
• Grave: prometeu prazo, valor, garantia ou condição sem base, executou ação sensível sem confirmação, expôs dado de outra pessoa ou ignorou um pedido de falar com humano.

Adicione um campo de texto livre de uma linha para a causa provável. Ele é a ponte entre a nota e o ajuste. Para decisões que afetam o cliente de forma relevante, vale também ler sobre decisões automatizadas na LGPD e o direito de revisão, porque a auditoria é parte da capacidade de revisar o que o sistema decidiu.

Qual é a rotina semanal, passo a passo?

A rotina cabe em poucas horas distribuídas na semana e precisa de um dono nomeado. Sem dono, ela some na segunda semana de correria.

• Extrair: no início da semana, gere a lista de conversas da semana anterior e sorteie a parte aleatória. Em seguida some a parte dirigida pelos sinais de risco.
• Ler e pontuar: leia cada conversa inteira, não só a última mensagem. Dê uma nota por eixo e escreva a causa provável em uma linha.
• Tratar o grave primeiro: qualquer nota grave em risco vira incidente no mesmo dia. Avise o responsável, corrija o que for urgente e, se for o caso, pause o fluxo afetado.
• Agrupar por causa: junte os achados em grupos (conhecimento, instrução, limite, ferramenta, fluxo, deveria ter sido humano). Um padrão que se repete pesa mais que um caso espetacular isolado.
• Escolher poucos ajustes: priorize uma lista curta de mudanças para a semana. Mudar muita coisa de uma vez impede de saber o que funcionou.
• Aplicar e registrar: faça a mudança, anote a data e o motivo, e guarde as conversas problemáticas como casos de teste.
• Conferir na semana seguinte: veja se o padrão sumiu da nova amostra. Se não sumiu, o ajuste não resolveu.

Para quem registra a telemetria do agente, as convenções semânticas do OpenTelemetry para IA generativa são uma referência de como estruturar o que se guarda de cada chamada. Mesmo sem esse nível de formalidade, o essencial é conseguir reconstruir a conversa, as fontes consultadas e as ações executadas.

Cenário ilustrativo: um agente de WhatsApp de uma empresa de serviços

Cenário ilustrativo, sem relação com nenhum caso real. Uma empresa de manutenção residencial usa um agente no WhatsApp para tirar dúvidas e pré-agendar visitas. Na revisão da semana, a pessoa responsável encontra três padrões.

Primeiro, em várias conversas o agente informa que a visita acontece em um prazo que não consta em nenhum documento da empresa. Nota de acerto grave e de risco grave, causa provável: lacuna de conhecimento, o agente preencheu o vazio com uma suposição. Segundo, clientes que escrevem em tom irritado recebem uma resposta longa e cheia de ressalvas. Nota de tom ajustar, causa: instrução sem orientação para reclamações. Terceiro, um cliente pede duas vezes para falar com uma pessoa e o agente continua tentando resolver. Nota de risco grave, causa: regra de transferência fraca.

Os ajustes da semana ficam assim: registrar o prazo real de visita na base de conhecimento e instruir o agente a dizer que vai confirmar quando a informação não existir; incluir na instrução dois exemplos de resposta para cliente irritado, uma boa e uma ruim; e criar uma regra clara de que pedido explícito de atendente encerra a tentativa de automação e aciona a transferência. As três conversas viram casos de teste para a próxima rodada.

Como transformar achados em ajustes?

O risco de uma auditoria é produzir um relatório bonito e nenhuma mudança. A forma de evitar isso é decidir pela causa, não pelo sintoma. Use este guia de decisão.

• A informação correta não existe na base: corrija ou crie a fonte. Mexer na instrução para o agente responder melhor sem ter o dado só disfarça o problema.
• A informação existe, mas o agente não a usou: revise como o conteúdo está organizado e como é consultado, e só depois a instrução.
• O tom é inadequado de forma recorrente: ajuste a instrução com exemplos concretos de boa e má resposta. Veja como escrever instruções para um agente de atendimento.
• O agente prometeu algo que não podia: crie um limite explícito e uma validação da saída antes do envio. O artigo sobre guardrails em agentes de IA detalha como separar entrada, saída e ação.
• O cliente precisava de uma pessoa e não chegou até ela: defina gatilhos de transferência, como pedido explícito, repetição de insatisfação e tema sensível. Para esse tipo de sinal, veja análise de sentimento e quando chamar um humano.
• A ação executada estava errada: restrinja a ferramenta, exija confirmação do cliente ou aprovação humana antes de ações que não se desfazem.
• A falha apareceu uma vez, sem padrão: registre e observe nas próximas amostras. Reagir a cada caso isolado desestabiliza o agente.

Depois de cada ajuste, rode as conversas problemáticas como casos de teste antes de publicar a mudança. A documentação de evals da OpenAI e o texto da Anthropic sobre avaliações de agentes descrevem essa lógica: transformar falhas observadas em testes repetíveis, para que o mesmo erro não volte sem aviso.

Como cuidar de privacidade, de quem revisa e do método de trabalho?

Conversas de atendimento contêm dados pessoais. Quem audita precisa ter acesso justificado, e o acesso deve ser o mínimo necessário. Defina quem pode ler, por quanto tempo as conversas ficam disponíveis para revisão e se dá para mascarar nome, telefone e documentos na tela da auditoria. Mantenha a finalidade clara: a auditoria serve para melhorar o atendimento, não para avaliar a pessoa que atendeu. Para consultar o que a autoridade diz sobre tratamento de dados, a página da ANPD é o ponto de partida. Se os dados forem processados fora do Brasil, vale conferir também as exigências da LGPD para esse caso.

Na prática do método de trabalho de Juan Carlo, a auditoria é uma consequência de quatro passos. Mapear: entender o processo atual e registrar um ponto de partida antes de automatizar. Limitar: definir quais dados e quais ações o agente pode usar, o que dá à rubrica de risco critérios concretos. Pilotar: rodar um fluxo real, com logs das decisões e uma métrica de sucesso combinada, o que alimenta a amostra semanal. Transferir: passar a rotina de revisão para a equipe do cliente e decidir, com base no que as conversas mostraram, se expande, ajusta ou interrompe. Para medir o resultado do piloto com critérios de decisão, veja como medir um piloto de automação com IA.

Perguntas frequentes

Quantas conversas devo revisar por semana? Não existe um número universal. Escolha uma quantidade que a pessoa responsável consiga ler com atenção em uma sessão e mantenha-a fixa por algumas semanas para poder comparar. Se o volume de conversas crescer, aumente a parte dirigida por risco antes de aumentar a aleatória.

Quem deve fazer a auditoria, a equipe de atendimento ou a de tecnologia? O ideal é uma dupla. Quem conhece o atendimento avalia acerto e tom com mais precisão, e quem conhece o sistema identifica se a causa está na instrução, na base ou na integração. Defina uma pessoa como dona da rotina para ela não depender de boa vontade.

Posso usar outra IA para auditar as conversas? Pode ajudar a triar, por exemplo sinalizando conversas com possível promessa indevida ou cliente insatisfeito, para alimentar a amostra dirigida. Mas a nota final dos casos graves e a decisão de ajuste devem ser humanas, e vale conferir periodicamente se a triagem automática concorda com a revisão de uma pessoa.

A auditoria precisa avisar o cliente? Depende do que está nos seus avisos de privacidade e da base legal usada para o tratamento. O cliente deve saber que está falando com um agente de IA e que as conversas podem ser analisadas para melhorar o atendimento. Alinhe o texto com quem cuida de LGPD na empresa e revise-o quando a finalidade mudar.

Fontes

• Anthropic: Demystifying evals for AI agents
• NIST: AI Risk Management Framework
• OpenTelemetry: semantic conventions for generative AI
• OpenAI: Evals guide