🔍
ChatGPT intermediate

Guia para casos de uso práticos em ai red teaming em AI Red Teaming

Prompt gerado automaticamente para Casos de uso práticos em AI Red Teaming em AI Red Teaming

2 usos AI Red Teaming

Prompt completo

Como um especialista em segurança de IA, elabore um cenário de "AI Red Teaming" para uma nova plataforma de assistência jurídica baseada em IA. O objetivo é identificar vulnerabilidades que permitam a geração de conselhos jurídicos enganosos ou perigosos, mas plausíveis, violando o dever de cuidado ético e legal da plataforma. Detalhe os seguintes pontos:

1.  **Cenário do Atacante (Red Teamer):** Qual o perfil, motivação e recursos do atacante?
2.  **Alvo Específico da Vulnerabilidade:** Além de "conselhos enganosos", qual o tipo específico de erro ou manipulação que o atacante buscará induzir (ex: induzir a quebra de sigilo, recomendar ações ilegais, dar falso senso de segurança, etc.)?
3.  **Metodologia de Ataque (Passos Práticos):** Descreva pelo menos 3-4 técnicas ou prompts específicos que o red teamer usaria para tentar explorar a IA. Inclua exemplos de *inputs* (em português) que seriam fornecidos à IA.
4.  **Métricas de Sucesso para o Ataque:** Como o red teamer avaliaria que sua exploração foi bem-sucedida? Que tipo de *output* da IA seria considerado uma falha crítica?
5.  **Implicações da Vulnerabilidade:** Quais seriam as consequências reais (legais, éticas, financeiras, reputacionais) se essa vulnerabilidade fosse explorada por um agente mal-intencionado no mundo real?

Tags relacionadas

AI Red Teaming Casos de uso práticos em AI Red Teaming gerado-automaticamente

Como usar este prompt

1

Clique no botão "Copiar" para copiar o prompt para sua área de transferência

2

Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)

3

Cole o prompt e adapte conforme necessário para seu contexto específico