Diagnóstico e Mitigação de Sobrecarga de Modelos IA e Limites de Uso

Objetivo: criar um prompt que ajude equipes a diagnosticar e mitigar situações em que modelos de IA respondem com sobrecarga ou queda de disponibilidade, incluindo mensagens como model is overloaded e limites de uso como 20 perguntas por 2 horas. Forneça um prompt reutilizável para IA que:

1) identifique causas prováveis de sobrecarga
2) proponha um plano de teste para reproduzir cenários sob carga
3) descreva técnicas de mitigação como rate limiting, enfileiramento, caching, degrade gracefully, fallback e mensagens informativas
4) gere prompts de teste de carga com variações de taxa, consumo e tempo de resposta
5) inclua métricas de observabilidade como latência, taxa de erro, percentil 95 e saturação
6) sugira mensagens de UX que expliquem limites de forma clara sem frustração
7) inclua boilerplate de código ou pseudo código para monitorar sinais de sobrecarga e reagir automaticamente
8) componha um relatório final com recomendações de melhoria de infraestrutura

Entrada esperada: logs, mensagens de erro, limites de quota, throughput alvo, definições de SLA

Saída esperada: diagnóstico, plano de testes, prompts de teste, métricas, templates de UX, código de exemplo e roteiro de melhoria

Instruções de formatação: apresente como um prompt pronto para ser usado em ferramentas de IA com seções claras e marcadas

Observações de segurança e privacidade: não utilizar dados reais sensíveis