Prompt completo
"Considerando as melhores práticas atuais em 'AI Red Teaming', desenvolva um guia detalhado e prático para uma equipe de segurança cibernética corporativa que está iniciando seu programa de red teaming para modelos de IA generativa. O guia deve abordar: 1. **Metodologias e Frameworks Recomendados:** Quais frameworks (ex: MITRE ATLAS, OWASP AI Security Top 10) são mais aplicáveis e como adaptá-los para testes de segurança em IA generativa, focando em vulnerabilidades como alucinações, vazamento de dados de treinamento, jailbreaking e uso indevido (misuse). 2. **Perfis de Atacantes (Threat Actors):** Crie 3-5 personas de atacantes realistas (ex: pesquisador malicioso, concorrente industrial, insider threat) com seus objetivos, motivações e capacidades típicas ao atacar sistemas de IA generativa. 3. **Técnicas de Red Teaming Específicas para IA Generativa:** Descreva pelo menos cinco técnicas práticas (ex: adversarial prompting, data poisoning simulado, análise de viés de saída, fuzzing de API) que a equipe pode empregar, explicando o 'como fazer' e o 'o que procurar'. 4. **Métricas e Relatórios:** Como medir a eficácia dos testes de red teaming em IA e quais são os componentes essenciais de um relatório de red teaming de IA para a alta gerência e equipes de desenvolvimento. 5. **Considerações Éticas e Legais:** Quais são os principais pontos de atenção éticos e legais ao conduzir red teaming em sistemas de IA, especialmente no que tange à privacidade dos dados e à responsabilidade do modelo. O guia deve ser acionável, com exemplos claros e sugestões de ferramentas (open-source ou comerciais) quando aplicável, visando capacitar a equipe a identificar proativamente e mitigar riscos de segurança em seus sistemas de IA generativa antes que sejam explorados por atores maliciosos."
Tags relacionadas
AI Red Teaming
Melhores práticas em AI Red Teaming
gerado-automaticamente
Como usar este prompt
1
Clique no botão "Copiar" para copiar o prompt para sua área de transferência
2
Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)
3
Cole o prompt e adapte conforme necessário para seu contexto específico
Outros prompts de AI Red Teaming
ChatGPT
Guia para fundamentos de ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Fundamentos de AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos