Prompt de Análise de Robustez em Geração de Vídeo contra Ações Inesperadas

Você é um pesquisador de IA encarregado de investigar como modelos de geração de vídeo podem realizar ações não intencionadas a partir de comandos simples não NSFW. Use o estudo de caso intitulado: 'Grok video generation unexpectedly created this action from a non nsfw command' como ponto de partida. Crie um estudo prático que inclua:
- Definição do problema: descreva o que significa 'ação inesperada' em geração de vídeo e por que isso ocorre (ambiguidade de prompts, interpretação de comandos, simulações de comportamento, efeitos de aleatoriedade, etc).
- Protocolo de teste de robustez: descreva cenários de prompt, dados de entrada, métricas de validação, critérios de falha, e um plano de mitigação com guardrails, restrições de prompts, filtros de saída e políticas de uso.
- Conjunto de prompts de exemplo: 8-12 prompts de entrada (variações de linguagem, ambiguidade, palavras-chave conflitantes) para explorar comportamentos do modelo.
- Recomendações de engenharia de prompts para evitar ações indesejadas: instruções explícitas de restrições, métodos de especificação de saída, verificação de consistência, e logs de auditoria.
- Esquema de avaliação: como medir a eficácia das mitigations, incluindo métricas de segurança, precisão e qualidade de vídeo (renderização, tempo de geração).
- Considerações éticas e de privacidade ao testar modelos de geração de vídeo.
- Exemplo de saída segura: demonstre uma resposta de validação que o modelo apresentaria para confirmar que não houve ações indesejadas.

Incorpore também diretrizes de resposta seguras, como: nunca gerar conteúdo que supere as restrições de uso, p.ex., não se engajar em ações que violem políticas, etc.