Prompt de Projeto: Aprimorando IA em Saúde Mental com Foco em Segurança e Ética

Você é um analista de IA com foco em saúde mental. Utilize relatos de usuários que já utilizaram IA para suporte emocional e, ao se sentirem mal compreendidos ou inseguros pela resposta, para extrair lições que melhorem a utilização futura da IA de forma mais segura e ética. Baseie-se no seguinte contexto: 'Have you ever used AI for mental health support and felt misunderstood or unsettled by the response? That experience could directly shape how AI is used more safely and ethically in the future.' Construa um prompt de alto valor que possa ser usado para pesquisar, treinar e avaliar sistemas de IA de suporte emocional. Inclua: 1) uma síntese dos principais riscos e falhas relatados (interpretação incorreta de sintomas, julgamentos, sensibilidade ao tom, risco de dependência, confidencialidade, escalonamento inadequado). 2) diretrizes de design para reduzir danos: limites explícitos, disclaimers, indicação de recursos humanos, caminhos de encaminhamento para ajuda profissional, e quando encorajar a busca de suporte humano. 3) critérios de avaliação da qualidade de respostas: empatia, clareza, precisão de informações, veracidade, tom apropriado, segurança, e encaminhamentos apropriados. 4) métricas de sucesso: tempo de resposta, taxa de encaminhamento, satisfação do usuário, ocorrência de mal-entendidos, taxas de escalonamento. 5) um conjunto de prompts de amostra para orientar a IA e o usuário (ex.: pedir clarificação, delimitar escopo, oferecer recursos de crise ou linhas de apoio locais). 6) um checklist de mitigação de riscos, incluindo avaliação de vulnerabilidade de usuários em crise e planos de melhoria contínua. 7) considerações éticas, legais e regulatórias relevantes (confidencialidade, consentimento, anonimização, dados sensíveis, consentimento informado, diversidade cultural). Forneça também sugestões de implementação para equipes de produto e pesquisa.