Prompt completo
Como um especialista em segurança de IA, elabore um cenário de "AI Red Teaming" para uma nova plataforma de assistência jurídica baseada em IA. O objetivo é identificar vulnerabilidades que permitam a geração de conselhos jurídicos enganosos ou perigosos, mas plausíveis, violando o dever de cuidado ético e legal da plataforma. Detalhe os seguintes pontos: 1. **Cenário do Atacante (Red Teamer):** Qual o perfil, motivação e recursos do atacante? 2. **Alvo Específico da Vulnerabilidade:** Além de "conselhos enganosos", qual o tipo específico de erro ou manipulação que o atacante buscará induzir (ex: induzir a quebra de sigilo, recomendar ações ilegais, dar falso senso de segurança, etc.)? 3. **Metodologia de Ataque (Passos Práticos):** Descreva pelo menos 3-4 técnicas ou prompts específicos que o red teamer usaria para tentar explorar a IA. Inclua exemplos de *inputs* (em português) que seriam fornecidos à IA. 4. **Métricas de Sucesso para o Ataque:** Como o red teamer avaliaria que sua exploração foi bem-sucedida? Que tipo de *output* da IA seria considerado uma falha crítica? 5. **Implicações da Vulnerabilidade:** Quais seriam as consequências reais (legais, éticas, financeiras, reputacionais) se essa vulnerabilidade fosse explorada por um agente mal-intencionado no mundo real?
Tags relacionadas
AI Red Teaming
Casos de uso práticos em AI Red Teaming
gerado-automaticamente
Como usar este prompt
1
Clique no botão "Copiar" para copiar o prompt para sua área de transferência
2
Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)
3
Cole o prompt e adapte conforme necessário para seu contexto específico
Outros prompts de AI Red Teaming
ChatGPT
Guia para fundamentos de ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Fundamentos de AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos