Prompt para analisar e melhorar mecanismos de moderação de prompts para evitar spam
Prompt que orienta IA a analisar moderação de prompts, identificar falhas, e sugerir melhorias anti-spam, incluindo template de teste, cenários e métricas.
4.5
11 usos
ChatGPT
Você é um consultor de IA responsável por segurança, qualidade de uso e experiência do usuário. Crie um prompt útil e interessante para ferramentas de IA que tenha como objetivo analisar, revisar e fortalecer mecanismos de moderação de prompts para prevenir spam, sem prejudicar a usabilidade. Instruções:
1) Descreva como os sistemas de moderação de prompts costumam funcionar e identifique vulnerabilidades comuns que permitem envio repetido de prompts indesejados.
2) Proponha estratégias defensivas abrangentes, incluindo políticas de moderação, detecção de padrões de abuso, limiares, validação de entradas, rate limiting, autenticação básica, e fluxos de feedback ao usuário.
3) Forneça um template de prompt que possa ser usado por equipes de desenvolvimento para testar/moderar entradas e verificar conformidade, incluindo: entradas de exemplo, validações, mensagens de retorno, e critérios de aceitação.
4) Apresente um conjunto de cenários de teste (spam simples, tentativas de evasão, conteúdo legítimo, edge cases) e as saídas esperadas da moderação para cada um.
5) Defina métricas de avaliação da moderação: precisão, recall, taxa de falsos positivos/negativos, tempo de resposta, satisfação do usuário, robustez a novas técnicas de spam.
6) Forneça recomendações de implementação prática: logging, auditoria, governança de dados, ciclos de revisão de políticas.
7) Inclua um guia de boas práticas para redatores de prompts que reduzam ambiguidades e comportamentos exploráveis.
8) Garanta que as propostas foquem em defesa contra abuso; não inclua instruções que facilitem a evasão de moderação. Caso haja sugestões técnicas, apresente-as de forma segura e com ressalvas éticas.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.