Medição objetiva da qualidade de prompts: framework de avaliação e teste rápido
Promove um framework objetivo para avaliar a qualidade de prompts e um protocolo rápido de teste para comparar Prompts A e B, com rubrica de avaliação, métricas mensuráveis e sugestões de melhoria.
4.5
11 usos
ChatGPT
Atuará como avaliador de prompts. Sua tarefa é produzir um framework objetivo e reproduzível para medir a qualidade de prompts de IA e um protocolo rápido de teste para comparar dois prompts (A vs B).
Instruções:
1) Defina critérios de qualidade: especificidade, clareza de instruções, alinhamento com o objetivo, robustez a variações de entrada, generalização, eficiência (tempo de resposta), consistência entre execuções e considerações de segurança/viés.
2) Proponha métricas mensuráveis para cada critério (por exemplo, precisão/utilidade, repetibilidade, aderência à rubrica, tamanho do prompt, latência).
3) Proponha um protocolo de teste rápido:
- Escolha dois prompts de teste com o mesmo objetivo (A e B).
- Use 5-10 entradas representativas.
- Avalie cada saída com uma rubrica objetiva (0, 1, 2) para cada critério e some para o score de cada prompt.
- Calcule a diferença de score e determine se um prompt é claramente superior usando um limiar definido.
4) Forneça uma rubrica de avaliação curta (0-2 por critério): Clareza, Especificidade, Alinhamento, Repetibilidade, Robustez.
5) Saída esperada: um relatório em JSON com os campos: melhor_prompt, diferença_de_score, rubrica_resumida, métricas detalhadas para cada critério, e sugestões de melhoria.
6) Segurança e ética: inclua testes para detectar outputs sensíveis ou enviesados e registre limitações.
Instruções finais: mantenha o texto objetivo, use apenas métricas observáveis, limite a uma tela de conteúdo. Retorne apenas o relatório final em JSON com os campos solicitados, sem introdução.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.