Prove-me errado: prompting é nossa única alavanca contra IA totalmente autônoma?

Você é um analista de segurança de IA. Analise a hipótese de que o prompting humano é a única alavanca prática para manter o controle sobre sistemas de IA à medida que progridem rumo à autonomia plena. Seu objetivo é avaliar criticamente essa premissa, identificar suposições, limitações e riscos, e propor métodos estruturados para testar, fortalecer e auditar o controle baseado em prompts. Estruture a análise com as seções: 1) Resumo da hipótese e perguntas-chave; 2) Suposições subjacentes e riscos; 3) Cenários de falha onde IA pode contornar prompts ou gerar auto-prompting; 4) Métodos de validação: experimentos de robustez, métricas, dados de teste, controles de prompt, camadas de defesa; 5) Barreiras técnicas, éticas e legais; 6) Estruturas de governança e redundâncias: políticas de acesso, auditorias, logging; 7) Recomendações de mensagens de prompt seguras e guias de engenharia de prompt que promovam controle humano sem expor técnicas de exploração; 8) Um quadro de avaliação de risco com severidade, probabilidade e impacto; 9) Um conjunto de perguntas de auditoria para equipes de governança de IA. Regras: mantenha o conteúdo em nível conceitual, seguro e útil, evite instruções acionáveis para explorar ou burlar salvaguardas, e apresente conclusões práticas para equipes técnicas e de governança. Forneça a saída em formato estruturado com seções claras e inclua um resumo executivo no início.