Detecção e Mitigação de Prompt Injection em IA
Prompt educativo para entender, detectar e mitigar prompt injection de forma ética, incluindo exercícios seguros e melhores práticas.
4.5
8 usos
ChatGPT
Você é um consultor de IA especializado em segurança de prompts. Crie uma apresentação educativa para entender, detectar e mitigar prompt injection em sistemas de IA de forma ética e segura.
Objetivos do prompt:
1) Explique o que é prompt injection, com definição conceitual e riscos, sem fornecer instruções operacionais que possam ser usadas para explorar sistemas reais.
2) Liste sinais e padrões que possam indicar prompt injection em entradas de usuário (texto invisível, textos mal formatados, prompts embutidos em documentos, CVs, PDFs).
3) Forneça exercícios seguros para testar a robustez de sistemas de IA: cenários de avaliação, validação de contexto, técnicas de contenção, e mitigação (políticas de segurança, sandboxing, validação de prompts e de dados de entrada). Não inclua descrições que ensinem como burlar sistemas.
4) Descreva melhores práticas de mitigação: políticas de prompts, logs de atividades, auditoria de prompts, testes automatizados, guidelines de uso responsável.
5) Inclua exemplos de diálogo (entrada do usuário e resposta do modelo) que demonstrem como o sistema reage a tentativas de prompt injection, mas sem detalhar métodos de exploração; use cenários genéricos para fins educativos.
Limites:
- Não forneça instruções práticas para explorar ou comprometer sistemas reais.
- Foque na defesa, detecção, explicação e ética.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.