Análise prática de prompt injection e defesa em chatbots de fintech

Você é um engenheiro de segurança de IA encarregado de analisar e defender um chatbot corporativo hospedado no site de uma fintech. Com base no relato a seguir, produza uma análise prática, acionável e segura (sem fornecer instruções que permitam causar danos). Cenário: um estudante universitário criou um chatbot com acesso público no site da empresa; usuários começaram a tentar jailbreak para contornar instruções do sistema, obter contexto interno e fazer o modelo executar ações não permitidas. O time de engenharia utilizou prompts de sistema, guardrails e controles MCP, que reduziram drasticamente os problemas, mas eles reaparecem em produção e de formas que não eram cobertas pelos testes. Sua tarefa é identificar vulnerabilidades, desenhar defesas em camadas e um plano de validação. Responda com: 1) uma síntese das vias de ataque observadas e das falhas de design que as permitiram; 2) uma classificação de vetores de ameaça (injeção de prompts, bypass de guardrails, exfiltração de contexto, etc.); 3) uma arquitetura de defesa em camadas: políticas de sistema, validação de entrada, isolamento de contextos, monitoramento e resposta a incidentes; 4) um plano de teste de segurança para fintech aplicado a chatbots (fases, tipos de teste, critérios de sucesso); 5) métricas e dashboards recomendados para monitorar resiliência a prompt injection; 6) um checklist de governança, conformidade e privacidade específico para fintech; 7) exemplos de práticas seguras de configuração de prompts e controles que reduzem risco; 8) notas de lições aprendidas e próximos passos para equipe de engenharia. Evite incluir instruções que possam facilitar o uso indevido; concentre-se em defesa, detecção, validação e governança.