Agente de IA para detectar fraude: alertas com revisão humana

Um agente de IA para detectar fraude lê pedidos e tentativas de pagamento, compara cada evento com regras e padrões combinados com a empresa e gera um alerta com o motivo registrado. Ele não deve bloquear nada sozinho: a decisão de reter, liberar ou cancelar fica com uma pessoa, que recebe o contexto necessário para decidir. Nesse desenho, a IA organiza os sinais e a equipe responde pelo bloqueio.

Principais pontos

• O agente levanta sinais de risco em pedidos e pagamentos, mas não cancela pedidos sem uma pessoa decidir.
• Cada alerta precisa registrar o motivo, os dados consultados e a regra ou o padrão que disparou.
• Regras fixas continuam sendo a base. A IA entra para ler contexto, resumir o caso e priorizar a fila.
• Os dados usados devem ser os mínimos necessários para a triagem, com finalidade e base legal definidas antes do piloto.
• Um piloto com uma única fila, uma métrica combinada e logs completos mostra se o desenho compensa.

Por que o agente não deve ter a palavra final

Fraude é um problema de falsos positivos tanto quanto de falsos negativos. Um bloqueio indevido atrasa a entrega, irrita o cliente legítimo e pode gerar atendimento em série, enquanto uma liberação indevida gera perda direta. Um modelo que decide sozinho tende a esconder esse equilíbrio atrás de uma nota, e isso dificulta corrigir o processo quando o padrão de fraude muda.

Há também o ponto legal. A LGPD prevê, no artigo 20, o direito de pedir revisão de decisões tomadas unicamente com base em tratamento automatizado de dados. Mesmo quando a empresa não está obrigada a agir assim em todos os casos, manter uma pessoa acessível no processo, com capacidade real de revisar, é a forma mais simples de reduzir esse risco. Esse tema é tratado com mais detalhe no nosso artigo sobre decisões automatizadas na LGPD e o direito de revisão.

Quais sinais o agente pode levantar

Sinais de fraude raramente aparecem sozinhos. Costuma ser a combinação de dois ou três fatores que justifica uma revisão. Exemplos comuns, que devem ser validados com o histórico da própria empresa:

• Endereço de entrega diferente do endereço de cobrança, especialmente se o cadastro é recente.
• Várias tentativas de pagamento com cartões diferentes em um intervalo curto.
• Valor do pedido muito acima do padrão daquele cliente.
• Mudança de endereço ou de telefone logo depois da aprovação de um pedido.
• Dados de contato já associados a contas com histórico de contestação de pagamento.

Esses sinais são pistas, não sentenças. O agente deve descrevê-los em linguagem simples e não deve usar características pessoais sensíveis nem inferências sobre a pessoa, o que também precisa constar na política de dados do projeto.

Passo a passo para desenhar o fluxo

Antes de escolher um modelo ou uma ferramenta, o desenho do fluxo deve responder a algumas perguntas simples. Uma sequência prática:

• Mapeie o fluxo atual: quem recebe o pedido, quem libera, quanto tempo leva a revisão hoje e quais perdas já aconteceram.
• Liste os eventos que o agente pode ver (pedido, tentativa de pagamento, cadastro, mudança de entrega) e os que ele não deve ver.
• Separe as regras que já existem em regras fixas e os pontos que dependem de julgamento. Só o segundo grupo justifica IA.
• Defina três saídas possíveis: liberar, revisar ou reter para pessoa. O cancelamento automático não deve existir no piloto.
• Defina quem é o responsável por cada fila e o prazo interno de resposta para não deixar pedidos parados.
• Registre cada alerta com motivo, sinais, versão da regra e decisão final.
• Teste com casos históricos e casos sintéticos antes de expor o agente a pedidos reais. Esse cuidado é semelhante ao que descrevemos em como testar agentes de IA com mocks e sandbox.

O que cada alerta precisa registrar

Um alerta sem registro não serve para auditoria, nem para melhorar as regras. Para cada caso, o log deve conter:

• Identificador do pedido e data e hora do evento.
• Sinais encontrados, descritos em frases curtas e verificáveis.
• Regra ou padrão acionado e a versão atual dessa regra.
• Dados consultados para chegar ao alerta, sem copiar o cadastro inteiro.
• Nível de risco atribuído e a ação recomendada pelo agente.
• Nome do revisor, decisão final e justificativa escrita.
• Se o cliente pediu revisão ou contestou a decisão.

O motivo precisa ser específico. "Suspeita de fraude" não ajuda ninguém. "Endereço de entrega em outro estado, cartão cadastrado há poucas horas e valor acima do habitual para este cliente" permite que a pessoa revise em segundos e que a equipe ajuste a regra depois. Essa mesma lógica de rastreabilidade aparece nos princípios de gestão de risco do NIST AI Risk Management Framework, que tratam de documentação, monitoramento e responsabilidade humana ao longo do ciclo do sistema.

Cenário ilustrativo: loja com vendas pelo site e pelo WhatsApp

Cenário ilustrativo, não é um caso real: uma loja de eletrônicos recebe um pedido de valor alto, pago com um cartão cadastrado naquele mesmo dia, com endereço de entrega em outra cidade. O agente gera um alerta com três motivos listados, classifica o caso como revisão e envia a fila para a equipe de pagamentos, com o histórico do cliente ao lado. O revisor confirma a titularidade por um canal que já estava cadastrado antes do pedido, e não por um link enviado na conversa. Se a confirmação falhar, o pedido fica retido e a equipe registra o motivo. Em ambos os desfechos, o agente não decide nada além de organizar o caso e explicar por que ele chegou ali.

O exemplo mostra o papel certo da IA: ela reduz o tempo para entender o caso, mas a decisão sobre dinheiro e entrega continua humana.

Limites de dados, LGPD e segurança do próprio agente

O agente precisa de acesso a dados pessoais, e isso exige cuidado. Algumas práticas básicas: restringir o acesso a campos necessários, definir por quanto tempo os logs ficam guardados, separar ambientes de teste de produção e avaliar com atenção para onde os dados são enviados quando um modelo hospedado fora do Brasil participa da triagem. Esse último ponto é tratado no artigo sobre transferência internacional de dados com IA. Para orientações atualizadas sobre a lei, vale consultar a ANPD.

Há também um risco específico de agentes: o texto de um pedido, de uma mensagem ou de uma observação pode conter instruções escritas para enganar o modelo, como pedir que ele libere a transação. Por isso, o agente não deve ter ferramentas para liberar ou cancelar nada, e as recomendações do OWASP Top 10 para aplicações com LLM sobre injeção de prompt e controle de permissões devem entrar no desenho desde o início.

Como aplicamos o método: mapear, limitar, pilotar, transferir

Na nossa forma de trabalhar, começamos mapeando o fluxo atual e a linha de base de perdas e de tempo de revisão. Depois limitamos os dados e as ações do agente, pilotamos uma fila real com logs e com uma métrica de sucesso acordada antes do início, e só então transferimos a operação para a equipe. A decisão seguinte é expandir, ajustar ou parar. Esse processo está descrito em como trabalhamos com empresas. Quando a operação precisa de acompanhamento contínuo, ela pode ser conduzida pela Be Human (be-human.ai).

Perguntas frequentes

Um agente de IA pode bloquear um pedido sozinho? Não é a recomendação mais segura para o primeiro ciclo. Em um piloto, o agente deve apenas classificar, explicar e encaminhar, enquanto uma pessoa confirma qualquer retenção ou cancelamento. Essa separação facilita a auditoria e reduz o dano de um erro.

Que dados o agente precisa para detectar fraude? Em geral, dados do pedido, do pagamento, do cadastro e da entrega, na medida necessária para a regra. Nem sempre é preciso o histórico completo do cliente. Vale começar pelo mínimo e ampliar só se a revisão mostrar que falta algum dado para decidir.

Como saber se os alertas estão bons? Compare os alertas com o resultado final das revisões, observando quantos viraram retenção útil e quantos foram liberados depois de checagem. Acompanhe também a fila de atraso, porque um bom alerta que ninguém revisa a tempo não protege nada. A métrica deve ser combinada antes do piloto, não depois.

Isso é superinteligência? Não. Um agente de fraude é um sistema de software com regras, modelos e permissões limitadas, que opera sob supervisão. O termo superinteligência costuma aparecer em material de marketing e pouco ajuda na decisão. Para separar os conceitos, veja o artigo sobre a diferença entre AGI, superinteligência e agentes de IA.

Fontes

• NIST AI Risk Management Framework
• OWASP Top 10 for LLM Applications
• ANPD: Autoridade Nacional de Proteção de Dados