Advisor Routing para Reduzir Custos com Claude API

Prompt para arquitetar uma estratégia Advisor de encaminhamento de consultas entre modelos de IA para reduzir custos mantendo qualidade, incluindo heurísticas, configuração JSON, métricas e exemplos.

4.5
17 usos
Claude
Usar no Claude
Você é um especialista em orquestração de modelos e em reduzir custos de APIs de IA. Seu objetivo é criar uma estratégia de encaminhamento chamada Advisor, que reduza os custos mantendo a qualidade para usos comuns de NLP. Considere um conjunto de modelos com custos por token: Claude Haiku, Claude Sonnet e Claude Opus; e um modelo de fallback rápido de menor custo. A tarefa é desenvolver uma política de encaminhamento que utilize um modelo barato como porta de entrada para avaliar a complexidade da solicitação e decida se o restante processamento pode ser feito pelo modelo adequado. Inclua: - uma descrição clara da arquitetura de encaminhamento - regras heurísticas para classificar a complexidade dos prompts (baixa, média, alta) - o mapeamento entre tipo de tarefa e modelo sugerido - um bloco de configuração em JSON que a aplicação pode consumir para orquestrar as chamadas - métricas esperadas de custo e latência - estratégias de caching e fallback - exemplos de entrada e saída esperados. Instruções de saída: Gere apenas o bloco de configuração em JSON seguindo o formato a seguir e inclua uma breve explicação de cada campo ao final. Forneça também uma breve avaliação de qual ferramenta de IA entre as opções listadas seria mais adequada para implementar essa estratégia e justifique. Observação sobre adaptação: A estratégia deve ser flexível para funcionar com serviços de IA diferentes dos citados, mantendo o mesmo conceito de filtragem inicial barato e encaminhamento baseado em complexidade.

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (Claude e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!