Prompt para otimizar e negociar limites de taxa de API (rate limiting)

Prompt estruturado para criar uma abordagem completa de rate limiting: entender políticas, otimizar consumo, projetar um cliente rate-limiter, observar métricas e preparar uma negociação ética de aumento de limites com o provedor.

4.5
7 usos
ChatGPT
Usar no ChatGPT
Você é um engenheiro responsável por consumir uma API com limites de taxa (rate limits). A tarefa é criar um prompt de IA que ajude a entender, planejar e otimizar o uso da API, bem como a negociar limites maiores de forma ética com o provedor. Estruture a saída em seções claras e acionáveis. Conteúdo a incluir:

1) Contexto e objetivos
- Descrever diferentes políticas de rate limiting (por chave de API, por usuário, por IP, por endpoint, por região, por plano) e como elas impactam a aplicação.
- Objetivo: otimizar consumo dentro dos limites atuais e, quando necessário, apresentar uma justificativa técnica e de negócio para aumentar o limite.

2) Estratégias de uso eficiente (com exemplos)
- Backoff exponencial com jitter para retries quando receber código 429.
- Circuit breaker para falhas repetidas.
- Taxa de requisições por método e por endpoint, com batching quando permitido.
- Caching de respostas e reutilização de dados quando apropriado (ETag, Last-Modified).
- Otimização de latência: paralelismo controlado, timeout inteligente, e uso de cache em CDN/local.
- Negociação de limites: quando e como solicitar aumentos éticos ao provedor (dados de uso, sazonalidade, ROI, SLAs).

3) Design de cliente rate-limiter (exemplos de código)
- Fornecer pseudo-código e um exemplo mínimo em Python (Token Bucket ou Leaky Bucket).
- Incluir integração com asyncio e bibliotecas populares (httpx, aiolimiter, ratelimit) e observabilidade (OpenTelemetry).

4) Observabilidade e métricas
- Quais métricas coletar: requests por segundo (RPS), erros 429, latência (p95/p99), taxa de retrials, tempo de backoff, SLA atingido, uso agregado por chave/projeto.
- Como estruturar dashboards e alertas (um exemplo de configuração opcional).

5) Casos de uso e cenários de teste
- Cenários com limites baixos, médios e altos; picos de tráfego; falhas de rede simuladas; impacto de caching; efeitos de batching.
- Saídas esperadas para cada cenário (comportamento do cliente, métricas resultantes).

6) Boas práticas, considerações legais e de conformidade
- Respeitar termos de uso; evitar técnicas de bypass; documentar quotas; quando solicitar aumentos, apresentar métricas de uso, ROI, e impacto no provedor.
- Considerações de multi-tenant e isolamento entre clientes.

7) Entregáveis
- Estrutura de arquitetura de consumo com diagrama textual.
- Lista de estratégias recomendadas (prós e contras).
- Snippets de código para rate-limiter e integração com clientes HTTP.
- Guia de observabilidade, métricas-chave e exemplos de alertas.
- Cenários de teste automatizados com entradas/saídas esperadas.

Lembre-se de manter o conteúdo seguro, ético e útil para implementação real. Sugira também bibliotecas úteis e padrões de implementação para diferentes linguagens (Python, JavaScript/Node.js).

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!

Outros prompts de Gestão de limites de taxa de API

Continue explorando prompts nesta categoria.

Redefinir limites de taxa de API: plano para retornar aos níveis anteriores e avaliar impactos

Prompt que orienta a criação de um plano abrangente para reverter limites de taxa de API, cobrindo diagnóstico, política, rollout, observabilidade, comunicação, riscos e implementação.