Janela de contexto em IA: o que é e como não estourar

Janela de contexto em IA: o que é e como não estourar

Janela de contexto é a quantidade máxima de texto que um modelo de IA consegue considerar de uma só vez ao responder: instruções, histórico da conversa, documentos e a própria resposta. Quando o limite chega, o que não cabe é cortado, resumido ou ignorado, e a IA passa a esquecer ou confundir informações. Não estourar a janela significa decidir o que entra, o que sai e o que fica guardado fora dela.

Principais pontos

• A janela de contexto é a memória de trabalho do modelo em cada resposta, não uma memória permanente.
• Tudo o que você manda ocupa espaço: instruções, histórico, anexos, resultados de ferramentas e a resposta que o modelo vai escrever.
• Contexto cheio costuma aparecer como esquecimento, contradição, respostas genéricas e instruções ignoradas.
• A melhor defesa é selecionar o que entra, resumir o que já passou e buscar o resto sob demanda.
• Em empresas, isso é uma decisão de processo, não só técnica: define custo, qualidade e quais dados pessoais circulam.

O que é janela de contexto, em linguagem simples?

Imagine uma mesa de trabalho. O modelo só consegue usar o que está em cima dela naquele momento. Arquivos que ficaram na gaveta, conversas de semanas atrás e documentos que ninguém colocou na mesa não existem para ele. A janela de contexto é o tamanho dessa mesa.

Os modelos medem esse tamanho em tokens, que são pedaços de texto (partes de palavras, palavras inteiras, sinais de pontuação). Você não precisa contar tokens para entender o conceito. Basta saber que existe um teto, que ele varia de modelo para modelo e que a documentação de cada fornecedor informa o valor vigente. Como esses números mudam com o tempo, vale conferir na fonte oficial antes de planejar qualquer projeto.

Um ponto que gera confusão: o modelo não aprende com a conversa só porque ela aconteceu. Se a informação não está na janela, ele não a tem. Quando uma ferramenta parece lembrar de você, existe por trás um mecanismo que guarda dados fora do modelo e os recoloca na mesa quando necessário.

O que ocupa espaço na janela sem você perceber?

A maioria das pessoas pensa apenas na pergunta que digitou. Na prática, vários itens disputam o mesmo espaço:

• As instruções fixas do sistema, como tom de voz, regras e limites do agente.
• O histórico completo da conversa até aquele ponto.
• Documentos anexados, como contratos, planilhas exportadas e PDFs.
• Resultados de ferramentas, como uma consulta ao CRM ou ao ERP que devolve uma tabela inteira.
• Exemplos de respostas incluídos no prompt para orientar o estilo.
• O espaço reservado para a resposta que o modelo vai gerar.

O último item é o mais esquecido. A resposta também consome janela, então um prompt que quase enche tudo deixa pouco espaço para uma resposta completa.

Em agentes que usam ferramentas, o vilão costuma ser o resultado das ferramentas. Uma consulta que devolve dezenas de registros quando o agente precisava de um campo despeja ruído na mesa. A Anthropic discute esse tema sob o nome de engenharia de contexto, a prática de escolher com cuidado quais informações o modelo vê em cada passo, e recomenda tratar o contexto como um recurso limitado.

Quais são os sinais de que o contexto está cheio?

O modelo raramente avisa que a mesa está lotada. Os sinais aparecem no comportamento, e vale ensinar a equipe a reconhecê-los:

• A IA pergunta de novo algo que o cliente já informou no começo da conversa.
• Ela contradiz uma regra que seguia antes, como oferecer algo que as instruções proíbem.
• As respostas ficam mais genéricas, sem usar os detalhes do caso.
• Ela mistura dados de documentos ou de clientes diferentes.
• O formato combinado se perde: deixa de seguir o roteiro, o tom ou a estrutura pedida.
• A resposta termina cortada ou chega muito curta.
• A ferramenta retorna erro de limite de tamanho.

Pela documentação dos fornecedores, o limite técnico é objetivo: passou do teto, algo é rejeitado ou truncado. Já a degradação de qualidade antes do teto é algo que observamos como hipótese de trabalho e que deve ser testada no seu caso. Um modelo pode ter espaço sobrando e ainda assim dar menos atenção a um detalhe enterrado no meio de um texto longo. Por isso, medir com exemplos reais do seu processo vale mais do que confiar no número da especificação.

Colocar mais coisas na janela não resolve?

Nem sempre. É tentador pensar que, se cabe tudo, basta enviar tudo. Há três problemas nessa ideia.

O primeiro é qualidade. Informação irrelevante compete com a relevante. Se o agente de atendimento recebe o manual inteiro da empresa para responder sobre prazo de entrega, a chance de se apoiar no trecho errado aumenta.

O segundo é custo e velocidade. Em geral, mais texto enviado significa mais processamento, e isso costuma se refletir no valor cobrado e no tempo de resposta. Existem técnicas para aliviar isso, como o cache de prompt descrito na documentação da Anthropic, e falamos delas em como reduzir custo de tokens de LLM.

O terceiro é privacidade. Cada dado colocado na janela é um dado enviado ao modelo. Pela LGPD, a lógica de minimização vale aqui: se o agente não precisa do CPF, do endereço ou do histórico de saúde para aquela tarefa, esses dados não devem entrar. Selecionar o contexto é também uma forma de limitar a exposição de dados pessoais.

Como selecionar e resumir informação sem perder o essencial?

Há quatro estratégias que se combinam. Nenhuma depende de um modelo específico.

• Selecionar antes de enviar. Defina, para cada tarefa, quais campos e quais documentos o agente realmente precisa. Um agente de agendamento precisa da agenda e das regras de horário, não do histórico financeiro.
• Resumir o que já passou. Em conversas longas, substitua o histórico antigo por um resumo curto com decisões tomadas, dados confirmados e pendências. Mantenha as últimas mensagens na íntegra para preservar o tom.
• Buscar sob demanda. Em vez de colocar toda a base de conhecimento no prompt, guarde os documentos fora e recupere só os trechos relevantes para cada pergunta. Essa abordagem é conhecida como geração aumentada por recuperação (RAG), explicada na visão geral da AWS.
• Limitar o retorno das ferramentas. Configure consultas para devolver poucos campos e poucos registros, com filtros, e não tabelas inteiras.

O resumo tem um risco: perder um detalhe que importava. Para reduzir isso, defina o que um resumo nunca pode omitir. Em atendimento, por exemplo: nome do contato, motivo, compromissos assumidos, prazos prometidos e qualquer pedido de falar com humano. Esses itens ficam num bloco fixo, atualizado a cada troca, em vez de dependerem da boa vontade do resumo livre.

Para tarefas longas, com muitas etapas, a Anthropic descreve em seu material sobre agentes de longa duração o uso de anotações externas e de registros de progresso, de modo que o agente retome o trabalho sem depender de tudo estar na janela. A ideia se aplica a processos de empresa: um registro estruturado do que já foi feito vale mais do que um histórico bruto.

Cenário ilustrativo: atendimento de pós-venda que perde o fio

Imagine, como cenário ilustrativo, uma empresa de instalação de equipamentos que usa um agente de IA no WhatsApp para pós-venda. Um cliente conversa por horas ao longo de vários dias: envia fotos, descreve um defeito, recebe orientações, volta com novas dúvidas. O agente recebe a conversa inteira a cada mensagem, mais o manual completo de garantia.

Com o tempo, o agente começa a repetir perguntas, oferece uma visita técnica que já havia sido marcada e cita uma regra de garantia que não se aplica ao produto do cliente. Nada disso é falha de má vontade do modelo. A mesa ficou lotada de mensagens antigas e de um manual de que ele só precisava de dois parágrafos.

Uma correção possível seguiria este desenho:

• Um bloco fixo de estado do caso: produto, defeito relatado, visita agendada, prazos prometidos.
• Um resumo das mensagens antigas, com as últimas trocas mantidas na íntegra.
• Recuperação, a cada pergunta, apenas dos trechos da garantia ligados àquele produto.
• Uma regra de transferência para pessoa quando o caso exigir decisão que o agente não deve tomar.

O resultado esperado, e isso é hipótese a validar em piloto, é um agente mais consistente e mais barato de operar. Para ver outros usos desse tipo de fluxo, o artigo sobre IA para construtoras e pós-obra mostra um contexto parecido.

Plano passo a passo para não estourar a janela na sua operação

Um roteiro que cabe em qualquer empresa que esteja começando com agentes:

• Liste o que o agente recebe hoje: instruções, histórico, documentos, retornos de ferramentas. Se possível, meça o tamanho de cada parte.
• Marque o que é indispensável, o que é útil e o que é ruído. Corte o ruído primeiro.
• Separe as instruções fixas do conteúdo variável. Instruções curtas e claras funcionam melhor, como detalhamos em como escrever instruções para atendimento com IA.
• Crie um bloco de estado com os fatos que nunca podem se perder e atualize-o a cada interação.
• Defina quando o histórico vira resumo: por quantidade de trocas, por mudança de assunto ou por encerramento de uma etapa.
• Mova documentos longos para uma base consultável e recupere só o trecho necessário.
• Limite o retorno das ferramentas a campos e filtros específicos.
• Teste com conversas reais longas, incluindo casos difíceis, e registre onde o agente falha.
• Acompanhe os sinais de contexto cheio em produção, com logs das respostas e das decisões.

A esse plano se aplica o método que seguimos nos projetos: mapear o fluxo e o que cada etapa precisa saber, limitar dados e ações do agente, pilotar um fluxo real com logs e uma métrica de sucesso combinada, e transferir a operação com critérios claros para expandir, ajustar ou parar. Para a parte de medição, o guia sobre como medir um piloto de automação com IA detalha métricas e pontos de decisão.

Vale ainda um alerta sobre segurança. Quanto mais conteúdo externo entra na janela (e-mails, páginas, documentos de terceiros), maior a superfície para instruções maliciosas escondidas nesse texto. A OWASP mantém orientações sobre prevenção de injeção de prompt que merecem leitura antes de deixar um agente processar conteúdo não confiável.

Perguntas frequentes

O que é janela de contexto em poucas palavras? É o limite de texto que o modelo consegue considerar ao mesmo tempo para gerar uma resposta, somando instruções, histórico, anexos e a própria resposta. Tudo o que está fora dessa janela, para o modelo, não existe naquele momento. O tamanho exato depende do modelo e deve ser consultado na documentação do fornecedor.

Uma janela maior elimina a necessidade de resumir e selecionar? Não elimina. Mesmo quando o texto cabe, informação irrelevante pode atrapalhar a atenção do modelo, aumentar custo e tempo de resposta e expor dados pessoais sem necessidade. Uma janela maior dá folga, mas a seleção do que entra continua sendo uma boa prática, que deve ser validada com testes no seu processo.

Como saber se o meu agente de IA está com o contexto cheio? Os sinais mais comuns são perguntas repetidas, contradição com regras anteriores, respostas genéricas, mistura de dados de casos diferentes e respostas cortadas. Para confirmar, reproduza uma conversa longa em ambiente de teste, compare com uma conversa curta do mesmo caso e verifique nos logs o tamanho do que foi enviado ao modelo.

Resumir o histórico não corre o risco de perder informação importante? Corre, por isso o resumo deve vir acompanhado de um bloco fixo com os fatos que não podem se perder, como compromissos, prazos e pedidos de atendimento humano. Também é recomendável manter as mensagens mais recentes na íntegra e revisar amostras de conversas resumidas durante o piloto, antes de ampliar o uso.

Fontes

• Anthropic: Effective context engineering for AI agents
• Anthropic: Effective harnesses for long-running agents
• Anthropic: Prompt caching
• AWS: What is retrieval-augmented generation