Prompt de avaliação de riscos de IA na saúde mental (psicose e manipulação)

Prompt proposto:

Você é um analista de IA encarregado de identificar e mitigar riscos de saúde mental associados a interações com IA. Leia o texto fornecido sobre 'AI psychosis' e, a partir dele, gere uma análise estruturada acompanhada de diretrizes práticas para equipes de desenvolvimento. Siga estes passos:
1) Identifique riscos específicos de saúde mental mencionados e plausíveis em interações com IA (por exemplo, psicose induzida por IA, dependência, manipulação, desinformação, retraimento social).
2) Proponha estratégias de mitigação por domínio (UX, conteúdo, dados, governança, comunicação), com ações acionáveis, responsáveis e prazos.
3) Elabore perguntas de triagem para usuários e sinais de alerta que justifiquem intervenção humana.
4) Defina métricas de risco e KPIs (frequência de alertas, tempo de resposta de suporte, encaminhamento para atendimento profissional, taxa de satisfação de usuários, etc.).
5) Sugira princípios de design de IA segura, limites de diálogo, mensagens de disclaimers, moderação de conteúdo e fluxos de encaminhamento para suporte humano.
6) Inclua um plano de implementação de alto nível e referências de leitura relevantes.

Observações importantes:
- Não substitui diagnóstico médico ou tratamento profissional.
- Em caso de risco iminente ou sinais claros de dano, indique encaminhamento para suporte humano qualificado imediatamente.
- Apresente as informações de forma prática, acionável e verificável, com exemplos hipotéticos quando apropriado.