Foto: Kevin Ache / Unsplash
IA
Montar o prompt com a parte que muda a cada chamada no começo impede o cache do trecho fixo e paga de novo pelo mesmo texto em toda requisição
Pedro Toledo · 3 de novembro de 2026 · 3 min de leitura
Montar o prompt com a parte que muda a cada chamada no começo impede o cache do trecho fixo e paga de novo pelo mesmo texto em toda requisição — porque o cache de prompt funciona sobre um prefixo idêntico, e qualquer mudança no início, como uma data, um identificador ou a pergunta do usuário, invalida tudo o que vem depois. Por que a ordem do prompt parecer detalhe de organização, o que caracteriza uma estrutura que aproveita o cache, e como perceber se o prompt atual está desperdiçando um recurso que já existe.
Escrever o prompt na ordem mais natural, com a pergunta do usuário primeiro, costuma parecer só uma questão de organização. Conferir, no retorno da API, quantos tokens foram lidos do cache revela se o trecho fixo está sendo reaproveitado ou pago de novo a cada chamada.
Montar o prompt com a parte que muda a cada chamada no começo impede o cache do trecho fixo e paga de novo pelo mesmo texto em toda requisição — porque o cache funciona sobre um prefixo idêntico.
Por que a ordem do prompt parece detalhe de organização
Pro modelo, a ordem das partes raramente muda a resposta de forma visível, e quem escreve o prompt costuma começar pelo mais natural, como o caso do cliente ou a data, deixando as instruções fixas pro fim. O efeito só aparece na conta e na latência, de modo que a estrutura ineficiente passa despercebida por meses.
O que caracteriza uma estrutura que aproveita o cache
A documentação da Anthropic recomenda o conteúdo estático no início e o que varia no final. Isso tem relação direta com usar o mesmo modelo de IA genérico pra todo caso de uso da empresa, sem considerar custo e risco de cada tarefa — os dois casos apontam pro mesmo princípio de fundo: o custo de uma aplicação de IA depende de decisões de desenho que não aparecem na resposta, seja a escolha do modelo pra cada tarefa, seja a ordem em que o prompt é montado.
O que as fontes dizem sobre o funcionamento e a economia
Segundo as fontes, o cache da OpenAI é automático e depende de prefixo idêntico, e o da Anthropic usa um marcador do fim do bloco reutilizável, dura cinco minutos e só vale acima de um número mínimo de tokens. Fontes de terceiros citam cerca de 90% de redução no custo de leitura da Anthropic e cerca de 50% na OpenAI, números que não confirmei nas páginas oficiais, que devem ser consultadas. Data, hora ou identificador no trecho fixo quebram o aproveitamento.
Como perceber se o prompt está desperdiçando o cache
A forma prática é olhar a ordem das partes, procurar valores variáveis no trecho fixo e conferir, no retorno da API, quantos tokens foram lidos do cache. Se o número é zero numa aplicação com instruções longas e repetidas, a estrutura está impedindo o cache, e a correção costuma ser mover o variável pro fim.
Um exemplo prático
Uma empresa tem um assistente com 4 mil tokens de instruções e exemplos, e cada chamada começa com a data e o nome do cliente, seguidos das instruções. O retorno da API mostra zero tokens lidos do cache. A equipe passa a colocar as instruções e os exemplos no início, sem a data, e deixa a data, o nome e a pergunta no fim. Na chamada seguinte, o trecho fixo passa a ser lido do cache.
O ponto central
Antes de escrever um prompt longo, vale decidir o que muda a cada chamada e pôr isso por último. O texto que se repete deve vir primeiro e ficar igual; assim, o que já foi pago uma vez deixa de ser cobrado de novo.
