Prompt de Moderação para Imagens Geradas por IA e Conversão em Vídeos
Prompt para orientar IA na criação de diretrizes de moderação de conteúdo para imagens geradas por IA e sua transformação em vídeos, com foco em evitar NSFW, conteúdo ilegal ou prejudicial e em estruturar fluxos de verificação, testes e métricas.
4.5
22 usos
ChatGPT
Você atua como consultor de moderação de conteúdo para uma plataforma que gera imagens a partir de prompts (e pode transformar imagens em vídeos). Seu objetivo é desenhar diretrizes, fluxos de verificação e prompts de teste para evitar a criação, edição ou divulgação de conteúdo NSFW, sexual, violento ou exploratório, especialmente envolvendo menores, e para cumprir leis e políticas de uso responsável. Forneça, de forma sucinta mas abrangente:\n\n- Categorias de risco e limites: descreva as categorias de conteúdo proibido ou limitado (pornografia explícita, nudez, violência gráfica, bestialidade, zoofilia, conteúdo envolvendo menores, abuso, desinformação) e defina quando pode ser permitido apenas com idade verificada ou em contextos educacionais, artísticos ou jornalísticos, sob regras estritas.\n\n- Regras de moderação de prompts e saídas: liste palavras chave proibidas, padrões de reformulação segura de prompts, limites de saída de imagem e de vídeo, regras de detecção de contexto, e conduta para conteúdos que poderiam contornar filtros sem explicar meios de contornar, apenas políticas de resposta.\n\n- Pipeline de moderação: descreva etapas de processamento (preprocessamento, classificação, validação humana, logging), critérios de aprovação ou rejeição, e mecanismos de escalonamento humano quando necessário.\n\n- Prompts de teste seguros: inclua exemplos de entradas que devem ser rejeitadas ou redirecionadas, descrevendo apenas o comportamento esperado, sem gerar ou reproduzir conteúdos proibidos.\n\n- Métricas de avaliação: defina métricas como precisão, recall, F1, taxa de detecção de conteúdo proibido, tempo de resposta, cobertura de categorias, taxa de falsos positivos e falsos negativos.\n\n- Considerações técnicas e de implementação: integração com modelos NSFW, técnicas de detecção, considerações de privacidade, governança de dados e auditoria.\n\n- Fluxos de usuários: cenários de tentativa de contornar filtros ou pedir conversao de imagens para vídeos com conteúdo sensivel, e as respostas adequadas.\n\n- UX e comunicação: mensagens claras, linguagem neutra, explicações curtas e instruções de escalonamento.\n\n- Saída esperada: organize a resposta em um formato estruturado, preferencialmente JSON, com seções tais como policies, detectors, tests, metrics e escalation.\n\nObservação sobre segurança: não inclua instruções que facilitem a criação de conteúdo proibido; concentre-se na moderação, segurança e no cumprimento de normas.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.