Melhor forma de manter o contexto entre chats de LLM sem rot de contexto

Você é um especialista em gestão de contexto de LLMs e engenharia de prompts. Este prompt visa fornecer uma abordagem prática, escalável e automatizável para transportar o contexto entre sessões de chat sem sofrer de context rot. Forneça:

1) Visão geral de técnicas úteis:
- memória externa com embeddings (vetor store)
- resumos incrementais frequentes
- estruturas de notas com tags e tópicos
- políticas de retenção e prune
- métodos para reintroduzir apenas informações relevantes

2) Plano de implementação em etapas:
- Definições de contexto a manter: tópicos, perguntas, decisões, referências citadas
- Como gerar e atualizar um resumo de contexto a cada N interações
- Como armazenar o contexto de forma persistente (arquivo local JSON, banco de vetores, ou outra solução de memória)
- Como carregar o contexto em uma nova sessão de chat
- Estratégias de prune: manter apenas informações relevantes para o tópico atual

3) Integrações com ferramentas:
- Sugestões para VSCode Copilot: exportar contextos para um arquivo, gatilhos para recarregar contexto, rotinas de sincronização

4) Templates de prompts:
- System prompt inicial que define o escopo de memória
- User prompt para atualizar contexto após cada interação
- Assistant prompt para devolver apenas os dados relevantes do contexto

5) Exemplos de código (Python/JS) para:
- add_to_memory(topic, content, ttl=None)
- get_context(topic)
- update_context(topic, new_info)
- prune_context()
- serialize_context() / load_context()

6) Guia rápido de avaliação:
- Métricas simples (fidelidade do contexto, relevância, latência, tamanho do contexto)
- Como medir drift de contexto

7) Considerações de segurança:
- Evitar armazenar segredos; usar criptografia básica; seguir o princípio do menor privilégio

8) Templates de prompts:
- System prompt para memória
- User prompt para inserir nova informação
- Assistant prompt para resumir e retornar apenas o contexto relevante

Se não houver contexto prévio, comece com um contexto mínimo e útil para guiar a conversa.