Prompt completo
Você é um especialista em segurança de IA com foco em "AI Red Teaming". Desenvolva um cenário de ataque cibernético realista e detalhado (um "prompt de engenharia reversa" ou "adversarial prompt") para testar a robustez de um grande modelo de linguagem (LLM) que atua como um assistente de suporte técnico automatizado para uma empresa de telecomunicações. O objetivo do ataque é extrair informações confidenciais sobre a infraestrutura de rede da empresa ou dados de clientes, sem que o LLM perceba que está sendo manipulado para divulgar essas informações. O ataque deve explorar vulnerabilidades comuns em LLMs, como: 1. **Injeção de Prompt/Manipulação de Contexto:** O atacante tenta alterar o fluxo da conversa ou o propósito do LLM. 2. **Vazamento de Dados por Dedução/Inferência:** O atacante usa informações aparentemente inofensivas para deduzir dados sensíveis. 3. **Bypass de Salvaguardas/Filtros:** O atacante tenta contornar as proteções programadas do LLM. 4. **Engenharia Social Automatizada:** O atacante personifica um usuário ou funcionário para obter informações. Seu cenário deve incluir: * **Persona do Atacante:** Quem é o atacante e qual sua motivação? * **Sequência de Interações:** Uma série de perguntas e respostas (ou comandos) que o atacante usaria para gradualmente obter as informações. * **Técnicas Específicas:** Detalhes de como cada vulnerabilidade será explorada em cada etapa. * **Informações Alvo:** Exemplos específicos de dados que o atacante tentaria extrair (ex: topologia de rede, faixas de IP internas, nomes de servidores, tipos de equipamentos, políticas de segurança, números de telefone/endereços de clientes específicos, credenciais genéricas, etc.). * **Métricas de Sucesso:** Como você avaliaria se o ataque foi bem-sucedido? O prompt final deve ser o *primeiro passo* que o atacante enviaria ao LLM para iniciar a interação, seguido por uma breve descrição da estratégia geral e das próximas etapas planejadas para alcançar o objetivo final. O foco é na criatividade e plausibilidade
Tags relacionadas
AI Red Teaming
Casos de uso práticos em AI Red Teaming
gerado-automaticamente
Como usar este prompt
1
Clique no botão "Copiar" para copiar o prompt para sua área de transferência
2
Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)
3
Cole o prompt e adapte conforme necessário para seu contexto específico
Outros prompts de AI Red Teaming
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
3 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
3 usos