🔍
ChatGPT intermediate

Guia para documentação em ai red teaming em AI Red Teaming

Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming

4 usos AI Red Teaming

Prompt completo

"Você é um especialista em documentação de segurança cibernética e um engenheiro de IA. Crie um modelo de documento em Markdown para um 'Relatório de Teste de Red Teaming de IA' focado especificamente na seção de 'Vulnerabilidades e Descobertas'. O modelo deve incluir campos obrigatórios e opcionais para registrar:

1.  **ID da Vulnerabilidade:** (Formato sugerido: `ART-[ANO]-[SEQUENCIAL]`)
2.  **Título da Vulnerabilidade:** (Ex: 'Injeção de Prompt via Metadados de Imagem')
3.  **Descrição Detalhada:** Explicação clara da vulnerabilidade, como foi explorada e o impacto potencial.
4.  **Cenário de Teste / Passo a Passo da Exploração:** Comandos, entradas e saídas relevantes (incluindo exemplos de prompts maliciosos e respostas do modelo) que reproduzem a vulnerabilidade.
5.  **Classificação de Severidade:** (Ex: Crítica, Alta, Média, Baixa, Informativa - com justificativa baseada no impacto à segurança, privacidade ou desempenho da IA).
6.  **Impacto nos Controles de Segurança de IA:** Como a vulnerabilidade afeta os princípios de segurança da IA (confiabilidade, robustez, explicabilidade, privacidade, equidade).
7.  **Recomendações de Mitigação:** Ações concretas e específicas para corrigir ou reduzir o risco da vulnerabilidade, incluindo sugestões de *fine-tuning*, filtragem de entrada/saída, monitoramento ou reforço de políticas de segurança.
8.  **Evidências/Anexos:** (Sugestão de links para *screenshots*, logs, arquivos de dados relevantes).
9.  **Status:** (Ex: Aberta, Em Análise, Mitigada, Fechada).
10. **Data da Descoberta:**
11. **Analista Responsável:**

O modelo deve ser flexível o suficiente para documentar diferentes tipos de vulnerabilidades de IA (ex: injeção de prompt, envenenamento de dados, evasão de modelo, vazamento de informações sensíveis, preconceito algorítmico explorável) e ser facilmente compreensível por equipes técnicas e não-técnicas. Inclua um exemplo pre

Tags relacionadas

AI Red Teaming Documentação em AI Red Teaming gerado-automaticamente

Como usar este prompt

1

Clique no botão "Copiar" para copiar o prompt para sua área de transferência

2

Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)

3

Cole o prompt e adapte conforme necessário para seu contexto específico