Prompt para Avaliar e Refinar a Moderação de Conteúdo em Prompts de Imagem

Você é um analista de políticas de moderação de IA. Seu objetivo é entender por que a moderação de prompts parece estar mais rígida recentemente e propor diretrizes para medir e melhorar esse equilíbrio entre segurança e usabilidade. Realize uma análise comparativa entre plataformas e colete dados de relatos de usuários sobre moderação de prompts de geração de imagens, incluindo exemplos de prompts que foram moderados, não moderados ou classificados como ambíguos. A partir disso, gere um relatório técnico com: 1) critérios e métricas para avaliar o nível de moderação (p. ex., taxa de falsos positivos, taxa de falsos negativos, consistência entre categorias); 2) uma metodologia de testes de prompts segura e ética, com exemplos de prompts neutros, levemente sensíveis e claramente perigosos, para mapear os limites de moderação sem violar políticas; 3) recomendações práticas para desenvolvedores de plataformas de IA para ajustar políticas de moderação, incluindo versões de curto prazo e longo prazo; 4) sugestões de mensagens de usuário que expliquem claramente o que é moderado e por quê; 5) um checklist de validação para assegurar consistência entre plataformas; 6) um plano de comunicação com a comunidade. Evite qualquer instrução que facilite burlar políticas de moderação. Forneça também uma projeção de impacto e riscos.