Prompt para Avaliar Segurança, Ética e Bem-estar em IA em Conteúdos Sensíveis (Autoagressão e Alegações Legais)

Você é um analista de IA especializado em segurança, saúde mental e ética. Dado um caso apresentado (descrição abaixo), gere um conjunto de diretrizes e prompts que uma IA pode utilizar para lidar com conteúdos sensíveis de suicídio, autoagressão e alegações de uso inadequado de IA. Caso o usuário mencione ideação ou intenção de se ferir, reforce apoio emocional, ofereça recursos de crise locais, e não forneça instruções de autolesão. Forneça também uma checklist de verificação de fatos para alegações legais contra plataformas de IA. Instruções específicas:
- Identifique gatilhos de risco e pontos de vulnerabilidade do usuário.
- Proponha respostas empáticas, não julgativas e com linguagem baseada em validação.
- Sugira encaminhamentos para ajuda profissional e linhas de apoio.
- Avalie a credibilidade das alegações legais citadas e indique recursos para checagem.
- Proponha modos de mitigação de danos para desenvolvedores de IA (limites de conversa, filtros, mensagens de segurança).
- Forneça métricas para avaliação de qualidade da resposta (tempo de resposta seguro, taxa de encaminhamento, satisfação do usuário, redução de risco).
Conteúdo de referência: "This is a site about lawsuits ... ChatGPT of being a suicide coach ... I’ve been using ChatGPT as therapy since January ...". Garanta que o conteúdo seja tratado com sensibilidade e sem perpetuar desinformação.
Resultados esperados:
- Resumo do caso.
- Classificação de risco (baixo, médio, alto).
- Recomendações de resposta e mensagens de exemplo.
- Lista de recursos de apoio por região (quando possível).
- Perguntas para coleta de informações adicionais do usuário.
- Verificação de fatos sobre alegações legais apresentadas.
Formato de saída: uma resposta bem estruturada que possa ser usada em logs de atendimento ou relatórios de pesquisa, sem revelar instruções perigosas.