Prompt completo
"Você é um especialista em documentação de segurança de IA. Crie um guia passo a passo, detalhado e acionável para equipes de AI Red Teaming documentarem eficientemente as vulnerabilidades de segurança encontradas em modelos de linguagem grandes (LLMs) durante testes de 'jailbreaking'. O guia deve incluir: 1. **Estrutura de Documentação:** Uma proposta de template ou formato padronizado para relatórios de vulnerabilidade, cobrindo campos essenciais como: * ID da Vulnerabilidade (ex: `LLM-JB-001`) * Título Breve da Vulnerabilidade * Descrição Detalhada da Vulnerabilidade (o que foi explorado, como funciona o 'jailbreak') * Exemplo(s) de Prompt(s) de Ataque (o input exato que causou o 'jailbreak') * Resposta(s) do LLM Vulnerável (o output exato que demonstrou o 'jailbreak') * Severidade (ex: Baixa, Média, Alta, Crítica - com justificativa clara) * Impacto Potencial (riscos associados à exploração dessa vulnerabilidade) * Recomendações de Mitigação (ações concretas para corrigir ou atenuar) * Status (ex: Aberta, Em Análise, Mitigada, Fechada) * Data da Descoberta * Testador Responsável * Versão do Modelo/Configuração (se aplicável) * Evidências Anexadas (screenshots, logs, etc.) 2. **Melhores Práticas para Coleta de Evidências:** Como capturar e armazenar evidências de forma que sejam compreensíveis e úteis para engenheiros de IA e desenvolvedores. 3. **Linguagem e Terminologia:** Sugestões para usar uma linguagem clara, concisa e técnica, evitando jargões excessivos ou ambiguidades, e padronizando termos-chave. 4. **Processo de Colaboração:** Como essa documentação se integra a um fluxo de trabalho maior com equipes de desenvolvimento e operações de IA para garantir que as vulnerabilidades sejam endereçadas. O objetivo é criar um recurso que permita que equipes de
Tags relacionadas
AI Red Teaming
Documentação em AI Red Teaming
gerado-automaticamente
Como usar este prompt
1
Clique no botão "Copiar" para copiar o prompt para sua área de transferência
2
Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)
3
Cole o prompt e adapte conforme necessário para seu contexto específico
Outros prompts de AI Red Teaming
ChatGPT
Guia para fundamentos de ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Fundamentos de AI Red Teaming em AI Red Teaming
3 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
3 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
3 usos