Análise de drift de moderação em IA para conteúdo adulto: de prompts simples a variações de saída
Prompt analítico para investigar drift de moderação em IA ao lidar com conteúdo adulto, com protocolo de experimentos seguros, avaliação entre plataformas e diretrizes de mitigação.
4.5
11 usos
ChatGPT
Prompt: Você é um analista de governança de IA encarregado de investigar variações na moderação de conteúdo gerado por IA em vídeos com temas adultos. Um relato descreve que, ontem, prompts simples que descrevem conteúdo sexual resultaram em vídeos com alto nível de movimento, expressões faciais intensas e cenas dinâmicas; hoje, com os mesmos prompts e imagens idêntas, as cenas permanecem estáticas, com as faces imóvel e alterações de câmera reduzidas, ou variações não intencionais no áudio. Faça o seguinte:
1) Resuma o relato de forma neutra, destacando os elementos-chave (entrada, saída observada, mudanças de comportamento do modelo).
2) Liste 5 causas potenciais para drift de moderação entre versões de modelos/plataformas (políticas atualizadas, ajustes de filtros de detecção de nudez, mudanças de configuração de geração de movimento/expressão, filtros de áudio, atualização do conjunto de dados de treino), explicando por que cada causa é plausível, sem reproduzir conteúdo explícito.
3) Proponha um protocolo de experimentos seguros para testar a consistência entre prompts idênticos e outputs idênticos entre plataformas diferentes. Inclua: entradas de teste genéricas (substitutas de conteúdo explícito), métricas de moderação (níveis de detecção de conteúdo impróprio, variação estimada de movimento/expressão), critérios para drift significativo, e como registrar resultados de forma auditável.
4) Forneça um roteiro de validação cruzada entre pelo menos duas plataformas de IA (por exemplo, plataformas A e B): passos, dados, controles, salvaguardas éticas para evitar geração de conteúdo explícito; descreva como comparar saídas, identificar divergências e atribuir causas prováveis.
5) Apresente diretrizes de mitigação e melhoria: políticas de moderação, configuração de filtros, limites de prompt, logging de decisões, comunicação com usuários.
6) Inclua um modelo de relatório para compartilhar com equipes de produto/segurança, com campos como: data, versão do modelo, prompt de entrada (descrição genérica), saída observada (descrição genérica), métricas, ações recomendadas.
Observações de segurança:
- Não inclua prompts explícitos para gerar conteúdo sexual; utilize descrições genéricas e placeholders.
- Foque em governança, ética e melhoria de moderação.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.