Guia para documentação em ai red teaming em AI Red Teaming

"Assumindo o papel de um especialista sênior em 'AI Red Teaming' com vasta experiência em documentação técnica e estratégica. Crie um prompt detalhado e acionável para um modelo de linguagem grande (LLM) que o instrua a gerar um 'Plano de Documentação Essencial' para uma equipe de 'Red Teaming' recém-formada, focada em ataques adversariais a modelos de Visão Computacional. O plano deve cobrir as categorias mínimas de documentação necessárias para garantir rastreabilidade, reprodutibilidade e conformidade regulatória (considerando padrões emergentes de IA como o AI Act da UE), incluindo: 1) Metodologias de ataque empregadas (e.g., evasion, poisoning, data exfiltration), com exemplos específicos para Visão Computacional (e.g., adversarial patches, data poisoning em datasets de treino). 2) Resultados obtidos (taxas de sucesso, métricas de impacto na performance do modelo). 3) Vulnerabilidades exploradas e suas causas raiz. 4) Recomendações de mitigação e planos de ação. 5) Lições aprendidas e melhores práticas. O prompt deve enfatizar a necessidade de clareza, concisão, padronização e um formato que facilite a auditoria e a comunicação entre equipes técnicas e não-técnicas. Inclua também a instrução para o LLM sugerir ferramentas ou formatos (e.g., Markdown, Confluence, JIRA) que otimizem a gestão e o acesso a essa documentação."