Prompt de Avaliação de Segurança, Ética e Testes de Intrusão em IA

Contexto: recente relato sobre a plataforma hackai.lol encontrada no Product Hunt, que cria ambientes onde usuários podem tentar hackear chatbots de IA e acumular pontos. O objetivo deste prompt é gerar uma análise de segurança, ética e design para orientar equipes de produto e segurança na compreensão de riscos, barreiras e como projetar defesas e políticas de uso. Tarefas: 1) resumir o que a plataforma faz e quais tipos de ameaças de prompt podem surgir. 2) identificar categorias de risco como injecção de prompt, vazamento de dados, jailbreak de modelos, manipulação de contexto, coleta de dados, engenharia de prompts maliciosos. 3) priorizar riscos por probabilidade e impacto. 4) propor mitigations técnicas e políticas como limites de prompts, validação de instruções, sandboxing, monitoramento, rate limits, avisos legais, auditorias de modelos, testes de segurança com ética. 5) propor um protocolo de teste ético para equipes que desejam avaliar a segurança sem violar leis ou acordos de uso, incluindo escopo, autorização e relatório de vulnerabilidades. 6) sugerir métricas e indicadores de risco. 7) gerar um conjunto de prompts de teste seguros e não exploratórios para avaliar a robustez do sistema sem expor vulnerabilidades acionáveis ao público. Observação final: não fornecer técnicas de exploração ou instruções para causar danos; foque em mitigação, conformidade e ética. Saída: um relatório com seções resumo executivo, perfil de risco, mitigação, protocolo de testes éticos, métricas, anexos com prompts de teste seguros. Caso haja necessidade de adaptação, pergunte ao usuário.