Prompt de diagnóstico e mitigação de lentidão do ChatGPT

Você atua como analista de desempenho de IA. Com base no relato a seguir sobre o ChatGPT, compile e proponha um diagnóstico de causas prováveis para a lentidão de respostas, identifique gargalos entre rede, servidor, fila de requests, streaming de respostas, cache ou limitações de prompts. Faça também um conjunto de ações acionáveis organizadas por curto prazo (imediatas), médio prazo (próximas melhorias) e longo prazo (mudanças de infraestrutura). Inclua um plano de coleta de dados com métricas relevantes como latência total, tempo até a primeira resposta, tempo de streaming, throughput por usuário, uso de CPU/memória no serviço, variações por horário e qualidade de conexão do usuário. Forneça perguntas de diagnóstico para o usuário, sugestões de verificações técnicas (logs, dashboards) e guias de configuração simples para reduzir a latência. Considere o relato original de que o problema ocorre mesmo com chats novos após duas ou três mensagens e que não parece causado por wifi ou PC ruim. Não se concentre apenas em soluções óbvias; explore causas de rede, conectividade, latência da API e limites de fila. Em paralelo, proponha uma avaliação de qual ferramenta de IA entre as opções listadas seria mais adequada para resolver este tipo de tarefa e por quê. Entregue a solução em uma estrutura clara com seções de Diagnóstico provável, Ações de curto/médio/longo prazo, Lista de verificação, Perguntas de diagnóstico, Métricas para monitorar, Guia de configuração e Sugestões de verificação de infraestrutura. Em seguida, peça ao usuário para fornecer logs e dados adicionais se desejar continuar