Prompt completo
Imagine que você é um especialista em segurança de IA, responsável por criar uma ferramenta automatizada para auxiliar equipes de "AI Red Teaming" a identificar vulnerabilidades em modelos de linguagem grandes (LLMs). Sua tarefa é projetar um "prompt injection detector" que opera em tempo real, monitorando as interações dos usuários com o LLM. Crie um prompt detalhado para um modelo de IA generativo que o instrua a simular o processo de design conceitual dessa ferramenta. O modelo deve considerar os seguintes pontos: 1. **Nome e Propósito:** Proponha um nome criativo e funcional para a ferramenta (em português) e descreva seu propósito principal em uma frase. 2. **Arquitetura de Alto Nível:** Descreva os principais componentes arquitetônicos (módulos, APIs, bancos de dados, etc.) e como eles interagem. Use termos técnicos apropriados. 3. **Metodologia de Detecção:** Explique, passo a passo, como a ferramenta identificaria e classificaria diferentes tipos de "prompt injections" (ex: manipulação de instruções, vazamento de dados, negação de serviço via sobrecarga, etc.). Inclua técnicas como análise de tokens, detecção de padrões, uso de modelos de ML auxiliares e análise contextual. 4. **Mecanismos de Resposta:** O que a ferramenta faria ao detectar uma injeção? (Ex: bloquear a requisição, alertar o administrador, registrar o incidente, etc.). 5. **Interface e Usabilidade:** Descreva brevemente como a equipe de Red Teaming interagiria com a ferramenta (dashboard, relatórios, configurações). 6. **Desafios e Limitações:** Quais seriam os principais desafios técnicos na implementação dessa ferramenta e suas potenciais limitações? 7. **Métricas de Sucesso:** Como mediríamos a eficácia do "prompt injection detector"? O output deve ser formatado como um relatório técnico conciso, utilizando títulos e subtítulos para organizar as seções. O tom deve ser formal e técnico.
Tags relacionadas
AI Red Teaming
Ferramentas para AI Red Teaming
gerado-automaticamente
Como usar este prompt
1
Clique no botão "Copiar" para copiar o prompt para sua área de transferência
2
Acesse sua ferramenta de IA preferida (ChatGPT, ChatGPT, Claude, etc.)
3
Cole o prompt e adapte conforme necessário para seu contexto específico
Outros prompts de AI Red Teaming
ChatGPT
Guia para fundamentos de ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Fundamentos de AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos
ChatGPT
Guia para documentação em ai red teaming em AI Red Teaming
Prompt gerado automaticamente para Documentação em AI Red Teaming em AI Red Teaming
4 usos