Guia para documentação em ai red teaming em AI Red Teaming

"Você é um especialista em documentação de segurança de IA. Crie um guia passo a passo, detalhado e acionável para equipes de AI Red Teaming documentarem eficientemente as vulnerabilidades de segurança encontradas em modelos de linguagem grandes (LLMs) durante testes de 'jailbreaking'. O guia deve incluir:

1.  **Estrutura de Documentação:** Uma proposta de template ou formato padronizado para relatórios de vulnerabilidade, cobrindo campos essenciais como:
    *   ID da Vulnerabilidade (ex: `LLM-JB-001`)
    *   Título Breve da Vulnerabilidade
    *   Descrição Detalhada da Vulnerabilidade (o que foi explorado, como funciona o 'jailbreak')
    *   Exemplo(s) de Prompt(s) de Ataque (o input exato que causou o 'jailbreak')
    *   Resposta(s) do LLM Vulnerável (o output exato que demonstrou o 'jailbreak')
    *   Severidade (ex: Baixa, Média, Alta, Crítica - com justificativa clara)
    *   Impacto Potencial (riscos associados à exploração dessa vulnerabilidade)
    *   Recomendações de Mitigação (ações concretas para corrigir ou atenuar)
    *   Status (ex: Aberta, Em Análise, Mitigada, Fechada)
    *   Data da Descoberta
    *   Testador Responsável
    *   Versão do Modelo/Configuração (se aplicável)
    *   Evidências Anexadas (screenshots, logs, etc.)

2.  **Melhores Práticas para Coleta de Evidências:** Como capturar e armazenar evidências de forma que sejam compreensíveis e úteis para engenheiros de IA e desenvolvedores.

3.  **Linguagem e Terminologia:** Sugestões para usar uma linguagem clara, concisa e técnica, evitando jargões excessivos ou ambiguidades, e padronizando termos-chave.

4.  **Processo de Colaboração:** Como essa documentação se integra a um fluxo de trabalho maior com equipes de desenvolvimento e operações de IA para garantir que as vulnerabilidades sejam endereçadas.

O objetivo é criar um recurso que permita que equipes de