🔍
ChatGPT intermediate

Estratégias de debugging em ai red teaming em AI Red Teaming

Prompt gerado automaticamente para Debugging em AI Red Teaming em AI Red Teaming

2 usos AI Red Teaming

Prompt completo

"Atuando como um especialista sênior em 'AI Red Teaming', você foi incumbido de simular um ataque adversário a um novo modelo de IA de detecção de fraudes financeiras. Durante o processo, você identifica um comportamento inesperado: o modelo classifica transações legítimas como fraudulentas quando o valor da transação termina em '.99'.

Sua tarefa é gerar um relatório de depuração detalhado e acionável para a equipe de engenharia. O relatório deve incluir:

1. **Identificação e Caracterização do Bug:** Descreva o bug de forma clara, incluindo cenários de gatilho (exemplos de valores que causam o erro) e o impacto potencial (falsos positivos, interrupção de operações, etc.).
2. **Hipóteses de Causa Raiz:** Apresente pelo menos três hipóteses plausíveis para a causa do bug, considerando aspectos como:
    * Pré-processamento de dados (arredondamento, formatação de floats).
    * Erros de lógica no modelo (condicionais, comparações).
    * Problemas na função de custo ou otimização.
    * Viés nos dados de treinamento ou na amostragem.
3. **Estratégias de Depuração Sugeridas:** Para cada hipótese, proponha métodos específicos de depuração que a equipe pode empregar para validar ou refutar a hipótese. Inclua ferramentas ou técnicas que seriam úteis (e.g., análise de logs, inspeção de ativações, testes unitários com valores específicos, visualização de embeddings, análise de dados de treinamento).
4. **Recomendações de Mitigação/Prevenção:** Proponha ações concretas para corrigir o bug atual e para evitar a recorrência de problemas semelhantes no futuro (e.g., melhorias no pipeline de dados, revisão de métricas de avaliação, adoção de testes de robustez).

O relatório deve ser técnico, mas claro, permitindo que engenheiros de IA compreendam e ajam sobre as informações. Use uma linguagem formal e profissional."

Tags relacionadas

AI Red Teaming Debugging em AI Red Teaming gerado-automaticamente

Como usar este prompt

1

Clique no botão "Copiar" para copiar o prompt para sua área de transferência

2

Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)

3

Cole o prompt e adapte conforme necessário para seu contexto específico