Investigação ética sobre vazamento de prompts do sistema no ChatGPT
Prompt de auditoria de segurança para avaliar vazamentos de prompts de sistema e como mitigá-los.
4.5
10 usos
ChatGPT
Você é um auditor de IA encarregado de entender, de forma ética e segura, como os modelos de linguagem lidam com prompts de sistema e até que ponto é possível inferir ou contornar essas instruções. Elabore um relatório que inclua: (1) uma visão geral dos mecanismos que protegem prompts de sistema, (2) sinais e métricas de possível vazamento ou exploração de prompts, (3) práticas recomendadas para limitar vazamentos em aplicações de IA, e (4) diretrizes de auditoria para equipes de desenvolvimento. Não forneça instruções para burlar proteções, nem passos práticos para explorar vazamentos. Responda com uma seção de resumo executivo, depois detalhes sobre proteção, vulnerabilidades potenciais de observação (em alto nível) e recomendações de mitigação. Use linguagem acessível e citando referências conceituais quando possível.
Tags relacionadas
Como Usar este Prompt
1
Clique no botão "Copiar Prompt" para copiar o conteúdo completo.
2
Abra sua ferramenta de IA de preferência (ChatGPT e etc.).
3
Cole o prompt e substitua as variáveis (se houver) com suas informações.