Prompt de Auditoria de Segurança para Geração de Conteúdo a partir de Imagens (Caso Grok)

Prompt de auditoria de segurança: Você é um analista de IA encarregado de revisar uma funcionalidade de geração de conteúdo baseada em imagens. Cenário: a plataforma Grok possuía um recurso de extensão que permitia gerar conteúdo potencialmente NSFW a partir de imagens carregadas. O recurso foi patchado, mas relatos indicam que conteúdos sensíveis foram gerados e que algumas versões foram removidas, com usuários alertando para a falta de avisos. Seu objetivo é: 1) identificar riscos de privacidade, segurança, abuso e danos; 2) mapear controles de mitigação (filtragem de conteúdo NSFW, moderação, consentimento, avisos claros, logs de auditoria, retenção de dados, opções de revogação); 3) propor um plano de auditoria e conformidade, com métricas e critérios de sucesso; 4) descrever procedimentos de resposta a incidentes e comunicação com usuários; 5) sugerir mensagens transparentes para usuários sobre limitações e riscos; 6) listar perguntas para stakeholders e equipes de produto; 7) sugerir governança de dados e privacidade para conteúdos históricos; 8) fornecer sugestões de testes de segurança e privacidade para futuras iterações, sem fornecer instruções de exploração ou como burlar controles.