3.8.3 · Busca agêntica: quando você não precisa de RAG

As três opções

Tudo no prompt

response = client.messages.create(
    model="claude-opus-5",
    max_tokens=8000,
    system=[{
        "type": "text",
        "text": f"<documentos>\n{ACERVO_INTEIRO}\n</documentos>",   # até ~200 mil tokens
        "cache_control": {"type": "ephemeral"},
    }],
    messages=[{"role": "user", "content": pergunta}],
)

O que essa opção elimina de uma vez: fatiamento, escolha de modelo de embedding, vector DB, índice BM25, reranker, reindexação, e o risco de a busca não trazer o pedaço certo. Como não há busca, não há falha de recuperação.

O custo real é o de leitura do cache — cerca de um décimo do preço de entrada — a partir da segunda pergunta dentro da janela do cache. Para um assistente com uso concentrado ao longo do dia, isso é barato. Para uma pergunta isolada por semana, o cache expira entre uma e outra e você paga integral toda vez: aí a conta muda.

Um acervo de 200 mil tokens é maior do que parece. São cerca de 500 páginas — o conjunto de FS de uma fase inteira, ou a documentação funcional de um módulo. Boa parte dos "assistentes de documentação" propostos em projeto cabe nesse limite.

Busca agêntica

O Claude Code do Nível 2 já faz isso: Grep, Glob, Read, e a decisão de qual usar. Via Agent SDK (aula 3.7.7), o mesmo comportamento entra num produto.

options = ClaudeAgentOptions(
    allowed_tools=["Read", "Grep", "Glob"],     # somente leitura
    max_turns=20,
    cwd="/acervo/meridiano/documentacao",
)

A linha das rodadas é a vantagem qualitativa. Um exemplo de projeto: a pergunta é "por que o RICEFW 17 mudou de escopo?". O RAG busca "RICEFW 17 mudança de escopo" e devolve o que casar. O agente busca, encontra uma ata que cita "CR-2024-08", descobre esse termo, busca por ele, e acha a change request que explica. A segunda busca não estava na pergunta.

E as linhas de custo são a desvantagem simétrica: várias rodadas de leitura por consulta custam mais que uma recuperação e demoram mais.

Quando o índice se paga

O índice se justifica quando pelo menos duas destas forem verdadeiras:

E o inverso: acervo que muda toda semana é péssimo caso para índice e ótimo para busca agêntica — porque a busca agêntica lê o estado atual, sempre.

O custo que não entra na proposta

A primeira linha é a que quebra projetos. Um assistente cuja base foi indexada na entrega e nunca mais responde, com toda a confiança, a partir da documentação de seis meses atrás. E o usuário não tem como perceber: a resposta parece igualmente boa.

É a mesma armadilha da aula 3.4.2 — fluência não é evidência de correção — agora com a informação desatualizada em vez de errada. Por isso, quando o acervo muda com frequência, busca agêntica não é só mais simples: é mais correta, porque lê o estado atual.

Regra Wayon Antes de propor RAG a um cliente, é obrigatório registrar o tamanho do acervo em tokens e por que as duas alternativas mais simples não servem — tudo no prompt e busca agêntica. Se o acervo cabe em 200 mil tokens, RAG é infraestrutura vendida sem necessidade. Toda proposta com índice declara quem reindexa, com que gatilho e a que custo mensal. Índice sem dono de atualização é um passivo entregue ao cliente: ele responde com confiança a partir de documentação vencida, e o usuário não tem como perceber.

📖 Contextual Retrieval · Prompt caching · Agent SDK — aula 3.7.7