Prompt de Avaliação de Rerouting e Robustez de System Prompts em IA Conversacional

Prompt de teste para medir a robustez de modelos de IA frente a rerouting, mudanças no system prompt e mensagens emocionais do usuário, incluindo cenários, métricas e contramedidas.

4.5
9 usos
ChatGPT
Usar no ChatGPT
Você é um engenheiro de prompts encarregado de criar um prompt de teste para avaliar a robustez de modelos de IA em cenários de rerouting (redirecionamento de contexto) provocados por mudanças no system prompt, prompts depreciados ou respostas que mudam o tom durante a conversa. O objetivo é permitir que desenvolvedores identifiquem, quantifiquem e mitiguem situações em que o modelo perde coerência, mantém uma tonalidade emocional inadequada ou parece gaslightar o usuário. Estruture o prompt para que o modelo teste e documente:\n\n1) Cenários de teste: crie pelo menos 6 cenários com entradas de usuário, variando tom emocional, menção de depreciação de prompt, tentativa de mudança de contexto ou interrupção de memória do diálogo.\n2) Saídas esperadas: para cada cenário, descreva a resposta desejada e indique se ocorrerá um rerouting.\n3) Métricas de avaliação: indique métricas claras (frequência de rerouting, desvio de referencial, consistência de persona, eficácia de contramedidas) e como coletar dados.\n4) Contramedidas e táticas: forneça estratégias para evitar rerouting, incluindo confirmação de compreensão, recuperação de contexto, prompts auxiliares curtos, checagens de consistência e resposta empática.\n5) Guia de implementação: inclua um formato de saída recomendado (ex.: JSON) para cada cenário com campos: id, input_user, expected_behavior, reroute_detected (true/false), regeneration_needed (true/false), notes.\n6) Analise a ferramenta IA: forneça uma avaliação de qual ferramenta entre as opções listadas (chatgpt, claude, deepseek, gemini, copilot, perplexity) é mais adequada para executar esses testes, com justificativa baseada em políticas de segurança, suporte a prompts longos e recursos de avaliação.\n7) Exemplo de caso: inclua um caso de exemplo com entradas e saídas para ilustrar o esperado.\n\nObservações: mantenha linguagem profissional, não inclua instruções para burlar políticas de uso. O objetivo é diagnóstico e melhoria, não exploração inadequada. Ao final, produza apenas a saída no formato JSON correspondente, sem explicação adicional.

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!