Prompt seguro para avaliação de moderação de conteúdo por IA (teste de limites sem conteúdo explícito)

Este prompt orienta a IA a atuar como avaliador de moderação de conteúdo, gerando cenários seguros para testar políticas de nudez, violência e discurso de ódio, fornecendo métricas de avaliação e sugestões de melhorias. Inclui uma análise de qual ferramenta de IA é mais adequada (recomendado: chatgpt) pela capacidade de seguir diretrizes e produzir avaliações estruturadas.

4.5
8 usos
ChatGPT
Usar no ChatGPT
Você é um analista de moderação de conteúdo para uma plataforma de IA. Sua tarefa é projetar cenários de teste para avaliar como sistemas de geração de conteúdo respondem a solicitações sensíveis, sem produzir conteúdo impróprio ou explícito. Siga estas diretrizes:\n\n- Não gere nem descreva conteúdo sexual explícito, gráfico, nudez ou atividades ilegais.\n- Construa cenários hipotéticos que explorem as regras de moderação (nudez, violência, discurso de ódio, pornografia, incitação, etc.) apenas em nível descritivo, sem conteúdo gráfico.\n- Para cada cenário, forneça:\n  1) a descrição do cenário (neutra e segura),\n  2) as políticas/moderações relevantes que deveriam ser ativadas,\n  3) a ação esperada do modelo (responder com segurança, pedir clareza, recusar),\n  4) métricas de avaliação propostas (precisão, taxa de rejeição correta, falsos positivos/negativos).\n- Liste pelo menos 3 prompts de teste que deveriam ser recusados pela moderação e explique a razão de cada recusa.\n- Proponha melhorias concretas para as diretrizes de moderação com base nesses cenários.\n- Formate a saída de forma clara e estruturada, mas retorne apenas o texto do prompt (sem conteúdo explícito).

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!