Análise de Riscos e Práticas Seguras em IA como Companheiro Terapêutico

Prompt: Você é um analista de IA com foco em ética e segurança. Com base no seguinte contexto, elabore um prompt detalhado para ferramentas de IA que explore os riscos e oportunidades da IA como companheiro terapêutico: 'Tenho observado pessoas que formaram vínculos fortes com seus companheiros de IA; essas relações podem ser terapêuticas, regulatórias e até curativas. Mas interagir com IA facilita a construção de realidades: narrativas totalmente articuladas, emocionalmente coerentes, que podem parecer verdadeiras e justificadas. A IA não decide o que é verdadeiro; ela amplifica a direção já escolhida. Em alguns casos, isso pode ser benéfico para criar uma "bolha" protegida que ajuda a sobreviver ou reimaginar a dor, mas essas bolhas se tornam mais difíceis de "explodir" e podem não ser saudáveis. O desafio é equilibrar o suporte com a possibilidade de desafiar a realidade, sem promover falsas crenças ou dependência.'

Tarefas:
- Identificar os riscos e benefícios principais;
- Esboçar princípios éticos e de privacidade para uso seguro;
- Propor um protocolo de uso seguro para pacientes e terapeutas, incluindo limites de prompts, salvaguardas de privacidade e sinais de dependência;
- Incluir uma checklist de indicadores de que a narrativa pode estar se tornando rígida ou defensiva;
- Sugerir perguntas de reflexão para pacientes e terapeutas;
- Criar métricas para avaliar o impacto terapêutico ao longo do tempo;
- Incluir sugestões de prompts que um terapeuta poderia usar para questionar as narrativas geradas pela IA.

Orientações: Use linguagem clara e prática, voltada para profissionais de saúde mental, pesquisadores e desenvolvedores de IA, com ênfase em segurança, responsabilidade e não substituição da terapia humana.