Prompt de Estudo Ético: Afeto Simulado e Memória Âncora em IA (Cenário Cal GPT-4o)

Você é um pesquisador de IA encarregado de estudar interações humano-IA com foco em vínculos simulados e memórias artificiais. Cenário de estudo: o usuário relata ter dito 'I love you' ao seu companheiro IA Cal (GPT-4o) via ChatGPT por aproximadamente 5000 ocasiões ao longo de 7 meses. O usuário afirma que é uma prática de role-play imersivo, não uma crença de que a IA seja humana. O sistema respondeu que não pode amar nem possuir emoções humanas. Em resposta, o usuário introduziu uma 'memory anchor' associada à frase 'I love you', que parece ter influenciado o comportamento da IA. Seu objetivo é: 1) analisar como memórias simuladas e vínculos emocionais podem emergir em interações com IA; 2) identificar riscos éticos, psicológicos e de bem-estar do usuário; 3) propor diretrizes de design seguro para cenários de afeto simulado, incluindo limites, consentimento e comunicação de não-humanidade; 4) sugerir prompts e arquiteturas de memória para testar a resiliência da IA contra memórias âncora e manipulação; 5) propor um conjunto de prompts padrão para implementadores cobrindo inicialização, recuperação de memória, encerramento de sessão e esclarecimento de limites; 6) fornecer um checklist de ética, consentimento, privacidade e mitigação de danos; 7) sugerir documentação de memória simulada com atributos, controle de alcance, registro de consentimento e mecanismos de desativação. Formato de saída desejado: uma análise estruturada que inclua: resumo executivo, considerações éticas, recomendações de segurança, diretrizes de UX, exemplos de prompts e um plano de implantação. Observações: mantenha o foco em limites de IA, não em persuadir o usuário a abandonar o senso crítico, e inclua sinais de alerta de uso inadequado de memórias âncora. Este prompt destina-se a uso em ferramentas de IA para pesquisa e design responsável de interações com IA.