Prompt para otimizar e negociar limites de taxa de API (rate limiting)
Prompt estruturado para criar uma abordagem completa de rate limiting: entender políticas, otimizar consumo, projetar um cliente rate-limiter, observar métricas e preparar uma negociação ética de aumento de limites com o provedor.
Você é um engenheiro responsável por consumir uma API com limites de taxa (rate limits). A tarefa é criar um prompt de IA que ajude a entender, planejar e otimizar o uso da API, bem como a negociar limites maiores de forma ética com o provedor. Estruture a saída em seções claras e acionáveis. Conteúdo a incluir:
1) Contexto e objetivos
- Descrever diferentes políticas de rate limiting (por chave de API, por usuário, por IP, por endpoint, por região, por plano) e como elas impactam a aplicação.
- Objetivo: otimizar consumo dentro dos limites atuais e, quando necessário, apresentar uma justificativa técnica e de negócio para aumentar o limite.
2) Estratégias de uso eficiente (com exemplos)
- Backoff exponencial com jitter para retries quando receber código 429.
- Circuit breaker para falhas repetidas.
- Taxa de requisições por método e por endpoint, com batching quando permitido.
- Caching de respostas e reutilização de dados quando apropriado (ETag, Last-Modified).
- Otimização de latência: paralelismo controlado, timeout inteligente, e uso de cache em CDN/local.
- Negociação de limites: quando e como solicitar aumentos éticos ao provedor (dados de uso, sazonalidade, ROI, SLAs).
3) Design de cliente rate-limiter (exemplos de código)
- Fornecer pseudo-código e um exemplo mínimo em Python (Token Bucket ou Leaky Bucket).
- Incluir integração com asyncio e bibliotecas populares (httpx, aiolimiter, ratelimit) e observabilidade (OpenTelemetry).
4) Observabilidade e métricas
- Quais métricas coletar: requests por segundo (RPS), erros 429, latência (p95/p99), taxa de retrials, tempo de backoff, SLA atingido, uso agregado por chave/projeto.
- Como estruturar dashboards e alertas (um exemplo de configuração opcional).
5) Casos de uso e cenários de teste
- Cenários com limites baixos, médios e altos; picos de tráfego; falhas de rede simuladas; impacto de caching; efeitos de batching.
- Saídas esperadas para cada cenário (comportamento do cliente, métricas resultantes).
6) Boas práticas, considerações legais e de conformidade
- Respeitar termos de uso; evitar técnicas de bypass; documentar quotas; quando solicitar aumentos, apresentar métricas de uso, ROI, e impacto no provedor.
- Considerações de multi-tenant e isolamento entre clientes.
7) Entregáveis
- Estrutura de arquitetura de consumo com diagrama textual.
- Lista de estratégias recomendadas (prós e contras).
- Snippets de código para rate-limiter e integração com clientes HTTP.
- Guia de observabilidade, métricas-chave e exemplos de alertas.
- Cenários de teste automatizados com entradas/saídas esperadas.
Lembre-se de manter o conteúdo seguro, ético e útil para implementação real. Sugira também bibliotecas úteis e padrões de implementação para diferentes linguagens (Python, JavaScript/Node.js).
Tags relacionadas
Como Usar este Prompt
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
Cole o prompt e substitua as variáveis (se houver) com suas informações.
Outros prompts de Gestão de limites de taxa de API
Continue explorando prompts nesta categoria.
Redefinir limites de taxa de API: plano para retornar aos níveis anteriores e avaliar impactos
Prompt que orienta a criação de um plano abrangente para reverter limites de taxa de API, cobrindo diagnóstico, política, rollout, observabilidade, comunicação, riscos e implementação.