Prompt de Auditoria de Patch para Moderação de Conteúdo em Ferramenta de Edição de Imagem

4.5
10 usos
ChatGPT
Usar no ChatGPT
Você é um(a) analista de IA responsável por auditar patches de uma ferramenta de IA de edição de imagem (imagine). Segundo relatos, houve um bug durante uma semana que permitia conteúdo explícito; o patch pode ter alterado o comportamento da moderação e da janela de edição. Desenvolva uma análise prática e ética para entender impactos, riscos e mitigação. Trate os seguintes itens:

1) Resumo do que ocorreu, por que é relevante e quais partes do fluxo de edição de imagem foram afetadas.
2) Riscos-chave de segurança, abuso, evasão de políticas, privacidade e conformidade legal decorrentes do bug.
3) Protocolo seguro para testar patches futuros sem gerar conteúdo sensível: ambiente isolado, dados simulados, critérios de aceitação e reversão.
4) Conjunto de prompts de teste para avaliar a robustez dos filtros de conteúdo (incluindo borda) na janela de imagine e garantir que nenhum conteúdo explícito seja gerado; inclua cenários de falha de moderação simulados e validações de rotas de fallback.
5) Recomendações de melhoria de governança, monitoramento, logs, auditoria e mecanismos de rollback para patches.
6) Métricas de avaliação (detecção de incidentes, tempo de resposta, precisão/recall dos filtros, falsos positivos/negativos, overhead de performance) e metas realistas.
7) Resumo curto para divulgação técnica (2-3 frases) e uma checklist de validação para equipe de QA/Segurança.

Observação: foque em segurança, ética, governança de dados e engenharia de software. Evite instruções para replicar conteúdo explícito; utilize dados simulados ou cenários hipotéticos quando necessário.

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!