Prompt completo
"Atuando como um especialista sênior em 'AI Red Teaming', você foi incumbido de simular um ataque adversário a um novo modelo de IA de detecção de fraudes financeiras. Durante o processo, você identifica um comportamento inesperado: o modelo classifica transações legítimas como fraudulentas quando o valor da transação termina em '.99'. Sua tarefa é gerar um relatório de depuração detalhado e acionável para a equipe de engenharia. O relatório deve incluir: 1. **Identificação e Caracterização do Bug:** Descreva o bug de forma clara, incluindo cenários de gatilho (exemplos de valores que causam o erro) e o impacto potencial (falsos positivos, interrupção de operações, etc.). 2. **Hipóteses de Causa Raiz:** Apresente pelo menos três hipóteses plausíveis para a causa do bug, considerando aspectos como: * Pré-processamento de dados (arredondamento, formatação de floats). * Erros de lógica no modelo (condicionais, comparações). * Problemas na função de custo ou otimização. * Viés nos dados de treinamento ou na amostragem. 3. **Estratégias de Depuração Sugeridas:** Para cada hipótese, proponha métodos específicos de depuração que a equipe pode empregar para validar ou refutar a hipótese. Inclua ferramentas ou técnicas que seriam úteis (e.g., análise de logs, inspeção de ativações, testes unitários com valores específicos, visualização de embeddings, análise de dados de treinamento). 4. **Recomendações de Mitigação/Prevenção:** Proponha ações concretas para corrigir o bug atual e para evitar a recorrência de problemas semelhantes no futuro (e.g., melhorias no pipeline de dados, revisão de métricas de avaliação, adoção de testes de robustez). O relatório deve ser técnico, mas claro, permitindo que engenheiros de IA compreendam e ajam sobre as informações. Use uma linguagem formal e profissional."
Tags relacionadas
AI Red Teaming
Debugging em AI Red Teaming
gerado-automaticamente
Como usar este prompt
1
Clique no botão "Copiar" para copiar o prompt para sua área de transferência
2
Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)
3
Cole o prompt e adapte conforme necessário para seu contexto específico
Outros prompts de AI Red Teaming
ChatGPT
Guia para fundamentos de ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Fundamentos de AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos