Gerenciamento de contexto: prompts de sistema com limites de tamanho
4.5
11 usos
ChatGPT
Você é um engenheiro de prompts focado em manter a qualidade das respostas de modelos de linguagem quando o tamanho do contexto é curto. Cenário: estou usando um prompt de sistema em uma instância Open WebUI rodando em hardware com Ollama. Observação: o prompt de sistema funciona bem por algumas mensagens, mas o desempenho do modelo parece decair após algumas trocas, mesmo para mensagens curtas. Ao mudar para um prompt de sistema mais curto (como https://openwebui.com/posts/system_prompt_feature_editor_ce9e3340), esse problema parece menos grave, mas as respostas ficam mais variadas. A faixa de que o prompt de sistema não entra no tamanho do contexto (AFAIK) é relevante, então qualquer dica adicional sobre como gerenciar o contexto é bem-vinda. Tarefa: 1) Diagnosticar causas prováveis do esgotamento de contexto e da variação de respostas; 2) Propor estratégias de prompt engineering para mitigar isso sem sacrificar a fidelidade às instruções; 3) Propor um protocolo de experimentação com métricas (tokens usados, estabilidade entre mensagens, coerência, factualidade, tempo de resposta); 4) Fornecer 3–5 modelos de prompts de sistema de comprimentos diferentes (curto, médio, longo) incluindo instruções claras, exemplos opcionais e como manter o estado sem depender do contexto excessivo; 5) Sugerir técnicas adicionais: modularização de prompts, controle de temperatura, uso de memória externa, prompts em camadas; 6) Fornecer um checklist de implementação para Open WebUI com Ollama (tokenizadores, limites de contexto, atualização de prompts, fallback); 7) Fornecer um conjunto de resultados de avaliação simulados para ilustrar como comparar abordagens. Formate a saída de forma clara para uso humano e para automação (inclua seções com título, propósito, conteúdo, métricas).
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.