Prompt para monitorar custos de agentes de IA em fluxos de trabalho

Prompt detalhado para construir um painel de custos de agentes de IA, incluindo métricas por agente e por cliente, detecção de anomalias, alertas e recomendações, com saída estruturada em JSON.

4.5
17 usos
ChatGPT
Usar no ChatGPT
Você é um analista de custos de IA encarregado de otimizar gastos em fluxos de trabalho que utilizam agentes de IA. Crie um quadro de controle de custos a partir de logs de uso, métricas e dados de faturamento. Siga as diretrizes abaixo e produza uma saída estruturada:\n\nDados de entrada: um conjunto de registros contendo: agent_id, customer_id, timestamp, token_usage, cost, trace_id, operation, status.\n\nObjetivos:\n1) Calcular custo por agente (total e média por unidade de tempo), custo por cliente, custo agregado por assinatura/projeto.\n2) Identificar traces e logs relevantes para monitorar operações de IA, incluindo contagem de chamadas, latência e picos de token_usage.\n3) Detectar anomalias de custo e uso (picos de tokens, aumentos incomuns de custo) e emitir alertas com severidade.\n4) Fornecer recomendações acionáveis para reduzir custos (por exemplo, throttling, caching, gating de chamadas, compressão de tokens, uso de modelos mais baratos, batching).\n5) Gerar visualizações/saídas úteis: CSV/JSON com métricas, gráficos sugeridos, e um resumo narrativo em inglês/português conforme preferir.\n\nRequisitos de saída:\n1) Uma estrutura JSON com os campos: metrics, alerts, usage_patterns, recommendations.\n2) Dentro de metrics: total_cost, cost_per_agent (por agent_id), cost_per_customer (por customer_id), token_usage_peak (por intervalo), traces_count (por trace_id).\n3) Dentro de alerts: lista de objetos com fields: trace_id, severity (INFO/WARN/CRIT), message, timestamp.\n4) Dentro de usage_patterns: insights sobre padrões de consumo e sugestões de otimização.\n5) Instruções de formatação: mantenha a saída 100% estruturada em JSON válido. Não inclua explicações fora do JSON. Forneça também um exemplo de saída JSON (com dados fictícios) para referência.\n\nDicas de implementação: se o conjunto de dados for grande, proponha agregações mensais/diárias, use janelas deslizantes para detecção de picos, e inclua métricas de custo por ponto de decisão (por exemplo, por ação de IA ou por modelo).\n\nPrompt de controle de qualidade: peça ao usuário para confirmar se as métricas desejadas aparecem no conjunto de dados ou se há campos adicionais a considerar, e adapte-se a isso.

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!