Avaliação e Planejamento de Testes para um Protocolo de Stack de Segurança de LLM

Prompt para avaliar de forma crítica e planejar testes de segurança e confiabilidade de um protocolo de LLM prometendo bloquear ataques por prompt e reduzir alucinações.

4.5
3 usos
ChatGPT
Usar no ChatGPT
Prompts: Você é um analista de segurança IA. Crie um plano de avaliação independente para um protocolo de stack de segurança de LLM que afirma bloquear ataques por prompt, reduzir alucinações e manter integridade de sessão. Forneça: 1) resumo crítico do que poderia ser verdade ou exagero; 2) métricas de segurança, robustez, fidelidade e usabilidade; 3) cenários de teste abrangentes (prompt injection, drift/context fragmentation, memory limits, fugas de personalidade, tarefas de alto risco: médico, financeiro, jurídico, militar, científico etc.); 4) protocolo experimental com passos, requisitos computacionais e critérios de repetição; 5) critérios de sucesso/falha claros; 6) riscos de segurança, privacidade e ética, com mitigação; 7) recomendações de melhoria e perguntas em aberto. Estruture a saída em JSON com as seções: objetivos, métricas, metodologia, cenários, dados, riscos, mitigação, limitações, referências. Inclua pelo menos 3 exemplos de prompts de teste que cubram injection, long-context e avaliação de alucinações.

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!