A Billion Little Tokens: Prompt para Compactação e Recuperação de Contexto em LLMs
Descreve um prompt avançado para explorar técnicas de bookmarking de contexto em LLMs, incluindo três abordagens técnicas, critérios de avaliação, um esboço de implementação e um exemplo com dados simulados.
4.5
4 usos
ChatGPT
PROMPT: você é um pesquisador de IA encarregado de projetar uma abordagem de bookmarking de contexto para LLMs usando strings aninhadas e compactação. O objetivo é permitir que o modelo registre instâncias de contexto (conversas, prompts, mensagens de usuário/assistente, transcripts) de forma altamente compacta, mas ainda reconstructível, mantendo a possibilidade de extração fiel quando permitido.
Sua tarefa é produzir um relatório de design que inclua:
1) visão geral do problema e restrições (limites de tokens, privacidade e segurança, necessidade de transcripts verbatim quando permitido);
2) três abordagens distintas e viáveis (a) compactação e serialização, (b) indexação por referência com hashes, (c) híbrido com chunking e verificação de integridade);
3) para cada abordagem, descrever formato de dados proposto, método de encoding, tradeoffs de tamanho vs fidelidade, mecanismos de verificação de integridade (hashes, checksums) e considerações de privacidade;
4) protocolo de avaliação com métricas: tamanho da representação, fidelidade da reconstrução, latência, custo de tokens, robustez a truncamento e sensibilidade a dados sensíveis;
5) esboço de implementação em pseudo código para função bookmark_context que recebe uma lista de mensagens com campos: role, content, timestamp e retorna um objeto bookmark_id para reconstruir o contexto completo, incluindo checagens de integridade e procedimento de expansão;
6) exemplo completo com um conjunto de mensagens de 6 a 8 itens mostrando input e output;
7) recomendações de validação prática e armadilhas éticas.
Formato de saída desejado:
- descrição de alto nível
- 3 abordagens detalhadas
- critérios de avaliação
- exemplo de execução com dados simulados
- perguntas de clarificação se necessário
Observações:
- não utilize dados reais sensíveis
- respeite privacidade e conformidade
- forneça conteúdo de forma concisa porém suficiente para implementação conceitual
Instruções adicionais:
- usar portugues claro e técnico
- fornecer pseudocódigo ou formato de dados quando apropriado
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.