
Consumo de energia da IA na empresa: o que medir antes de escolher modelo
Veja quais números de uso e consumo acompanhar em agentes de IA, como chamadas, tokens e repetições, para decidir modelos e frequência com critério.
Quer aplicar isso na sua empresa?
Agendar conversa com o Juan →O consumo de energia de um agente de IA depende de três fatores que a empresa controla: quantas vezes o modelo é chamado, quanto texto entra e sai em cada chamada e qual modelo executa cada tarefa. Por isso, a pergunta útil não é quanta energia a IA gasta em abstrato, e sim quais números de uso permitem comparar fluxos, trocar de modelo e reduzir chamadas sem perder qualidade. Este texto lista o que medir, em que ordem e como usar esses números numa decisão.
Principais pontos
- O consumo acompanha o uso: volume de chamadas, tamanho do contexto e tamanho da resposta pesam mais do que a simples decisão de "usar IA".
- Meça por fluxo e por tarefa concluída, e não apenas pelo total mensal da conta do fornecedor.
- A chamada evitável é a primeira economia a investigar: regras fixas, respostas prontas e consulta direta a sistemas dispensam o modelo.
- O modelo maior deve ser exceção para tarefas ambíguas, e não o padrão para todas as mensagens.
- Se o fornecedor não informa energia por chamada, use tokens, repetições e latência como indicadores, e peça transparência sobre o que for publicado.
Por que a energia aparece na conta da IA
Cada resposta de um modelo executa cálculos em servidores, geralmente em grandes data centers. Quanto mais texto o modelo processa e quanto maior ele é, maior o esforço computacional envolvido. As APIs comerciais costumam reportar uso em tokens, e a energia gasta por chamada raramente aparece de forma padronizada na documentação. Por isso, quem opera precisa de indicadores de proxy que estejam sob seu controle.
Discursos sobre superinteligência não mudam essa conta. Para a empresa, o que pesa é o uso concreto: quantas chamadas o agente faz, com que contexto, para qual tarefa e com que resultado. Não há, neste texto, um número oficial por chamada que deva ser usado como referência, e qualquer valor citado em notícias precisa ser checado na documentação do fornecedor antes de entrar numa decisão.
O que medir em cada fluxo
Antes de olhar para energia, a empresa deve montar um conjunto de métricas por fluxo do agente. Os itens abaixo funcionam como uma lista mínima:
- Volume de chamadas por fluxo e por período, para separar uso normal de picos ou de laços de repetição.
- Tokens de entrada e de saída por chamada, com a média e também os casos extremos.
- Tamanho do contexto enviado, incluindo o histórico da conversa e documentos anexados.
- Modelo usado em cada etapa, e não apenas o modelo padrão configurado para o agente.
- Repetições e retentativas, geralmente causadas por timeout, erro de integração ou resposta fora do formato esperado.
- Chamadas resolvidas por regra fixa, resposta pronta ou cache, porque mostram o que já não precisava do modelo.
- Custo por tarefa concluída, e não por mensagem, aplicando a lógica de custo unitário.
- Taxa de transferência para humano e taxa de correção, porque uma resposta barata e errada gera retrabalho e custo que não aparecem na fatura de API.
As duas últimas métricas são o denominador que dá sentido ao resto. Dividir o custo total pelo número de tarefas concluídas, sem antes definir o que significa "concluída" e qual taxa de erro é aceitável, leva a decisões erradas. Por isso, o painel deve ser combinado com quem opera o processo, e não montado apenas pela equipe técnica.
Como montar um painel mínimo
Um painel útil não precisa ser sofisticado. Os passos abaixo cabem em um piloto controlado:
- Passo 1: liste os fluxos reais do agente, como consulta de status, orçamento ou agendamento, e marque em cada um a etapa que chama o modelo.
- Passo 2: registre, para cada chamada, o modelo usado, os tokens de entrada e saída, a etapa, o resultado e se houve repetição. Use identificadores que liguem a chamada à conversa, sem guardar texto pessoal além do necessário.
- Passo 3: calcule a linha de base em um período representativo de operação ou de teste controlado, e anote os eventos atípicos, como campanhas, feriados ou falhas de integração.
- Passo 4: defina, junto com o responsável pelo processo, a métrica de sucesso, por exemplo custo por tarefa concluída com uma taxa de correção mínima acordada, e revise os números em cada ciclo.
As convenções semânticas da OpenTelemetry para IA generativa descrevem atributos para registrar modelo e uso de tokens, o que ajuda a padronizar esses registros caso a empresa já use observabilidade em outros sistemas.
Quando trocar de modelo e quando reduzir chamadas
O painel só é útil se levar a decisões. O guia abaixo ajuda a separar os casos mais comuns:
- Se a tarefa é classificação, extração simples ou resposta a perguntas frequentes com base fixa, teste um modelo menor antes de manter o modelo grande. O tema é tratado em modelos pequenos de IA na empresa.
- Se a tarefa exige interpretação de texto livre com exceções, mantenha um modelo mais capaz, mas limite o contexto enviado a ele ao mínimo necessário.
- Se a mesma pergunta chega muitas vezes com a mesma resposta, use regra fixa ou resposta pronta, e avalie cache de prompt quando o fornecedor oferecer esse recurso.
- Se o agente chama o modelo antes de consultar horário, estoque ou status no sistema, consulte o sistema primeiro e use o modelo apenas para redigir a resposta.
- Se o número de repetições sobe depois de uma mudança, pause a expansão e corrija a integração antes de trocar de modelo.
- Se houver dados sensíveis ou necessidade de custo previsível, avalie um modelo local com o mesmo painel. O caminho está descrito em Ollama na empresa.
Cenário ilustrativo
Cenário ilustrativo: uma loja de peças de reposição usa um agente no WhatsApp para responder sobre status de pedido, prazo de entrega e disponibilidade de peças. No início, cada mensagem, inclusive a pergunta sobre o horário de funcionamento, chama o modelo maior com todo o histórico da conversa. Ao olhar o painel, a equipe percebe que grande parte das chamadas responde com informações de uma tabela fixa e que o histórico enviado cresce a cada troca. Os ajustes são três: horário e perguntas fixas passam a ser respondidos sem modelo, o status é consultado no sistema antes da redação e o histórico enviado fica limitado às trocas relevantes. A decisão não se apoia numa promessa de economia, e sim na evidência: a equipe sabe quais chamadas existem, por que existem e o que mudou depois do ajuste. Reclamações continuam com revisão humana.
Privacidade e registros: o que guardar com cuidado
Os registros de prompts e respostas costumam conter dados pessoais, como nome, telefone e endereço. Nesse ponto, a LGPD entra na conta do painel de consumo. A empresa deve guardar apenas o que é necessário para medir e auditar, definir prazo de retenção, restringir o acesso aos logs e verificar onde o fornecedor processa os dados. Quando o processamento ocorre fora do Brasil, vale conferir as exigências descritas em transferência internacional de dados com IA. Medir consumo não justifica coletar mais dados do que a operação precisa.
Como aplicamos o método na prática
Na nossa forma de trabalho, o ponto de partida é mapear o processo atual e a linha de base de uso, limitar dados e ações do agente, pilotar um fluxo real com registros e uma métrica de sucesso combinada antes do início, e então transferir a operação para decidir se expande, ajusta ou interrompe. O painel de consumo entra como parte do piloto, e não como relatório separado. Não prometemos economia de energia ou de custo sem antes medir o fluxo em questão.
Perguntas frequentes
Preciso medir consumo de energia em kWh para decidir sobre modelos? Nem sempre. Para a maioria das decisões operacionais, tokens por chamada, volume de chamadas, repetições e custo por tarefa concluída já indicam onde está o desperdício. Medições de energia fazem mais sentido quando a empresa opera infraestrutura própria, com equipe capaz de coletar esses dados no hardware.
Um modelo menor sempre consome menos? Em geral, um modelo menor exige menos processamento por chamada, mas isso não garante menor consumo no fluxo inteiro. Se ele precisar de mais tentativas, de contexto maior ou de revisão humana, o total pode subir. Por isso, a comparação deve usar o mesmo painel, com a mesma métrica de qualidade.
Quantas métricas devo acompanhar no começo? Comece com poucas: volume de chamadas, tokens por chamada, repetições, taxa de transferência para humano e custo por tarefa concluída. Essas cinco já permitem identificar desperdício e avaliar uma troca de modelo. Outras métricas podem ser incluídas depois, quando o fluxo estiver estável e houver um responsável para olhar os números.
Como essas métricas se relacionam com a LGPD? Os registros usados para medir podem conter dados pessoais, então a empresa deve definir o que é guardado, por quanto tempo e quem acessa. Medir o consumo não exige armazenar o texto completo das conversas em todos os casos. Quando o registro é necessário para auditoria, ele deve ter finalidade definida e acesso restrito.