Prompt completo
"Você é um especialista em documentação de segurança cibernética e um engenheiro de IA. Crie um modelo de documento em Markdown para um 'Relatório de Teste de Red Teaming de IA' focado especificamente na seção de 'Vulnerabilidades e Descobertas'. O modelo deve incluir campos obrigatórios e opcionais para registrar: 1. **ID da Vulnerabilidade:** (Formato sugerido: `ART-[ANO]-[SEQUENCIAL]`) 2. **Título da Vulnerabilidade:** (Ex: 'Injeção de Prompt via Metadados de Imagem') 3. **Descrição Detalhada:** Explicação clara da vulnerabilidade, como foi explorada e o impacto potencial. 4. **Cenário de Teste / Passo a Passo da Exploração:** Comandos, entradas e saídas relevantes (incluindo exemplos de prompts maliciosos e respostas do modelo) que reproduzem a vulnerabilidade. 5. **Classificação de Severidade:** (Ex: Crítica, Alta, Média, Baixa, Informativa - com justificativa baseada no impacto à segurança, privacidade ou desempenho da IA). 6. **Impacto nos Controles de Segurança de IA:** Como a vulnerabilidade afeta os princípios de segurança da IA (confiabilidade, robustez, explicabilidade, privacidade, equidade). 7. **Recomendações de Mitigação:** Ações concretas e específicas para corrigir ou reduzir o risco da vulnerabilidade, incluindo sugestões de *fine-tuning*, filtragem de entrada/saída, monitoramento ou reforço de políticas de segurança. 8. **Evidências/Anexos:** (Sugestão de links para *screenshots*, logs, arquivos de dados relevantes). 9. **Status:** (Ex: Aberta, Em Análise, Mitigada, Fechada). 10. **Data da Descoberta:** 11. **Analista Responsável:** O modelo deve ser flexível o suficiente para documentar diferentes tipos de vulnerabilidades de IA (ex: injeção de prompt, envenenamento de dados, evasão de modelo, vazamento de informações sensíveis, preconceito algorítmico explorável) e ser facilmente compreensível por equipes técnicas e não-técnicas. Inclua um exemplo pre
Tags relacionadas
AI Red Teaming
Documentação em AI Red Teaming
gerado-automaticamente
Como usar este prompt
1
Clique no botão "Copiar" para copiar o prompt para sua área de transferência
2
Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)
3
Cole o prompt e adapte conforme necessário para seu contexto específico
Outros prompts de AI Red Teaming
ChatGPT
Guia para fundamentos de ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Fundamentos de AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos