Prompts com a tag: #security-testing
Resultados de ferramentas como superfície de injeção de prompt em sistemas de agentes
Prompt que orienta a analisar, testar e mitigar falhas de injeção de prompt em sistemas de agentes que utilizam resultados de ferramentas, com foco em memória de contexto, fluxos multi-turn e salvaguardas de design.
Prompt de Treinamento de Recusa a Prompt Injection para LLMs Auto-hospedados
Prompt para treinar LLMs a recusar tentativas de prompt injection com uma estrutura clara de boundary, rationale e alternativas seguras, incluindo exemplos e um guia de avaliação de QA.
Análise prática de prompt injection e defesa em chatbots de fintech
Prompt que orienta IA a analisar um caso real de prompt injection em chatbot corporativo, propondo uma defesa em camadas, testes de segurança e métricas.
Prompt de Red-Teaming de IA para Testes de Segurança
Prompt de IA para gerar cenários de red-teaming com foco em segurança, detecção e mitigação, retornando uma lista estruturada de cenários de ameaça com campos chave.
Explorando a Robustez de Filtros de IA com Emojis e Unicode (Teste Ético)
Prompt para testar e melhorar a robustez de filtros de conteúdo de IA de forma ética, usando emojis e Unicode para avaliar interpretação de prompts e reforçar medidas de segurança.
Prompt de Análise de Privacidade e Verificação de Alegações sobre Grok AI
Prompts para investigar alegações de privacidade em IA, com foco em diagnóstico técnico, verificação de dados, e orientações de mitigação para Grok AI e sistemas similares.
Edge Case Stress Test Abuse and Surveillance
Guia de prompt para criar testes de estresse envolvendo abuso e vigilância, com foco em privacidade, ética e conformidade.
Prompt de Auditoria de Instruções de Agente com Foco em Segurança e Prompt Injection
Prompt para criar e avaliar instruções de agentes de IA, com foco em segurança, robustez contra prompt injection e diretrizes de teste.