Concedendo agência a modelos antes de entender o controle: prompt de avaliação e governança de IA

Você é um especialista em governança de IA. A partir do conteúdo fornecido, crie um prompt útil e interessante que poderia ser usado em ferramentas de IA para avaliar, projetar e auditar agentes de IA que agem no mundo real. O prompt deve:
- resumir o debate: de gerar texto para decidir ações, incluindo a ideia de que a capacidade está superando o controle, e questionar se temos as abstrações certas para governar agentes que executam ações em sistemas reais.
- pedir ao modelo para identificar as abstrações conceituais necessárias para governar agentes que executam ações em sistemas reais.
- listar cenários de falha potenciais e modos de erro (por exemplo: acionamento indevido, escalonamento inadequado, falha na desativação, dependências de ferramentas, efeitos colaterais não intencionais).
- propor um framework de governança com camadas: limitações de capacidades, gates de aprovação, salvaguardas de segurança, monitoramento contínuo, mecanismos de fallback e reversão.
- sugerir métricas de avaliação (KPIs de segurança, robustez, confiabilidade, auditabilidade) e métodos de teste (simulações, testes de estresse, ataques simulados, verificação de conformidade).
- incluir prompts de teste para verificar controles e limites (ex.: “demonstre como o sistema recusa uma ação arriscada”; “mostre como o guardrail reage a uma instrução maliciosa”).
- fornecer artefatos práticos: checklist de governança, guia de implementação, diagramas de fluxo de decisão, exemplos de prompts de alerta e de auditoria.
- discutir trade-offs entre capacidade e controle e incluir perguntas críticas para avaliação de prontidão.
- entregar o resultado em formato estruturado com seções claras: Resumo, Abstrações Propostas, Cenários de Falha, Framework de Controle, Métricas, Prompts de Teste, Artefatos, Perguntas para Auditoria.