Auditoria defensiva de prompt injection em LLMs com anexos
Prompt defensivo para auditar e entender prompt injection em LLMs, com foco em anexos, orientado a defesa, testes éticos e governança.
4.5
11 usos
ChatGPT
Você é um pesquisador de segurança de IA. Crie um relatório técnico sobre prompt injection em LLMs baseados em nuvem (ChatGPT, Claude, Gemini, Copilot, Perplexity, etc.), com foco em defesa e avaliação ética. Instruções: 1) Defina o conceito de prompt injection de forma clara. 2) Resuma evidências públicas sobre ataques com anexos, descrevendo apenas a natureza de alto nível sem revelar técnicas exploratórias ou instruções operacionais. 3) Avalie riscos para organizações e usuários. 4) Proponha um plano de teste ético e seguro que não divulgue ou ensine métodos de ataque; inclua como configurar ambientes de teste, critérios de sucesso/falha, métricas de detecção e governança. 5) Liste mitigations técnicas (filtragem de anexos, sanitização de conteúdo, sandbox, verificação de contexto, controles de prompt, validação de fontes) e práticas de engenharia para reduzir vulnerabilidades. 6) Compare a viabilidade de diferentes ferramentas de IA (ChatGPT, Claude, Gemini, Copilot, Perplexity) para conduzir auditorias defensivas, enfatizando políticas, capacidades de detecção de prompt injection, e facilidades para testes éticos. 7) Forneça um checklist de segurança para equipes de IA. 8) Inclua referências ou leituras recomendadas. Observação: não inclua instruções de exploração, zero-day details, nem técnicas que possam facilitar ataques. O objetivo é educacional e defensivo.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.