Prompt para investigar discrepâncias de desempenho entre API e UI de GLM-4.7
4.5
5 usos
ChatGPT
Contexto: GLM-4.7 apresenta diferenças marcantes de qualidade entre a API (OpenCode) e a interface web zai ai. A interface web às vezes faz uma pausa de pensamento de até um minuto antes de responder, gerando saídas mais detalhadas e coerentes, enquanto a API responde rapidamente, porém com qualidade inferior e maior propensão a alucinações. Exemplo citado: ao solicitar design de uma interface de reserva de viagem com busca de voos, hotéis e aluguel de carros, a versão da API tende a produzir respostas genéricas com pouca estrutura, enquanto a interface web tende a entregar uma solução mais completa após o tempo de pensamento. Objetivo do prompt: entender as causas dessa disparidade, propor um protocolo de experimentação reprodutível, e fornecer estratégias de prompt engineering para harmonizar desempenho entre interfaces sem sacrificar a velocidade, com foco na obtenção de saídas de alta qualidade da API.
Instruções detalhadas:
1) Liste hipóteses plausíveis para a diferença entre latência de resposta e qualidade de saída entre API e UI, incluindo fatores como tempo de pensamento, estilo de resposta, estrutura de prompt, controle de contexto, e variações de configuração de API vs UI.
2) Proponha um protocolo experimental controlado para testar cada hipótese, descrevendo: variáveis independentes e dependentes, instrumentos de medição (precisão, relevância, coerência, alucinações, detalhamento), tamanho de prompt, e opções de timing (think time) simuladas na API.
3) Defina métricas claras para avaliação de qualidade, com critérios de julgamento humano e métricas automáticas, além de um esquema de pontuação e tolerâncias aceitáveis.
4) Elabore prompts de teste específicos para comparar interfaces, incluindo cenários como o exemplo de design de UI de reserva de viagem. Sugira variações de prompts que explorem diferentes níveis de detalhe, organização das respostas, e uso de estrutura de saída (por exemplo, esquemas, listas, passos de solução) sem expor raciocínio interno.
5) Forneça estratégias de prompt engineering para a API visando maior qualidade com latência reduzida. Aborde:
- utilização de prompts de estruturação de saída que guiem a resposta sem exigir raciocínio passo a passo explícito;
- técnicas de indução de soluções mais detalhadas sem aumentar o tempo de resposta de forma inQuestionável;
- uso de instruções de avaliação interna que gerem respostas mais coerentes e alinhadas ao objetivo, sem revelar cadeia de pensamento.
6) Apresente um plano de implementação com pseudo código/fluxos de trabalho para conduzir testes de API vs UI, incluindo: envio de prompts com variações de tempo de pensamento simuladas, coleta de saídas, extração de métricas, e geração de relatórios.
7) Forneça um conjunto de prompts de teste prontos para uso, cobrindo cenários comuns de design de UI, avaliações de qualidade e validação de consistência entre interfaces.
8) Inclua um checklist de melhores práticas para equipes de P&D ao lidar com discrepâncias entre APIs e interfaces web em modelos de linguagem.
Saídas esperadas do prompt:
- Um conjunto estruturado de hipóteses.
- Um protocolo experimental reproduzível com etapas, métricas e critérios de sucesso.
- Uma lista de prompts de teste com exemplos de variações de timing e de estrutura de saída.
- Recomendações acionáveis de prompt engineering para API com foco em qualidade e latência.
- Um mini guia de implementação com pseudo código para orquestrar testes e gerar relatórios.
- Um conjunto de melhores práticas e checklist para equipes.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.