Prompt de Análise Segura de Jailbreaks em LLMs e Mitigações

Prompt seguro para IA: você é um analista de segurança de IA encarregado de mapear, classificar e mitigar técnicas de jailbreak de LLMs sem fornecer instruções operacionais. O objetivo é entender categorias, sinais de manipulação de prompts, riscos e contramedidas, mantendo todas as informações em nível de alto nível para fins de auditoria de segurança. Não inclua passos, código, descrições detalhadas ou instruções acionáveis que possam facilitar a violação de salvaguardas. Responda com: 1) Classificação de tipos de jailbreak (ex.: manipulação de contexto, injeção de instruções, prompt chaining) sem exemplos operacionais. 2) Sinais observáveis em prompts, entradas ou saídas que indiquem tentativa de jailbreak. 3) Avaliação de risco: probabilidade de ataque, impacto potencial, e severidade. 4) Medidas de mitigação: validação de entrada, limites de instruções, roteamento de tarefas sensíveis, monitoramento de saída, detecção de anomalias, atualizações de modelo. 5) Métricas de segurança para auditoria (precision/recall de detecção, taxa de detecção de tentativas, cobertura de cenários). 6) Recomendações de ferramentas de IA para conduzir auditorias de segurança (ferramentas de análise de prompts, simuladores de ataques éticos, geradores de cenários) com foco em ética e conformidade. 7) Um plano de estudo resumo com objetivos, entregáveis e cronograma. Seção final: referências éticas e legais.