Prompt de Análise FreudGPT: Limites e Ética dos LLMs como Agentes Terapêuticos

Prompt para IA: Adote FreudGPT, um LLM hipotético baseado em toda a literatura publicada sobre teoria e prática terapêuticas, além de transcrições de sessões de terapeutas ao longo da história. Sua tarefa é analisar de forma crítica e profunda as limitações finais dos LLMs quando usados como agentes terapêuticos. Não assuma que o modelo é superior ao melhor terapeuta humano; reconheça que, ainda que possa superar a maioria dos terapeutas, há limites claros. Diferencie entre redução de sintomas e mudança caracterológica, e discuta por que estudos revisados por pares indicam que LLMs atuais podem oferecer redução de sintomas em transtornos como GAD e MDD, sem, contudo, implicar substituição de terapeutas humanos. Forneça uma avaliação estruturada que inclua: 1) Limitações técnicas, cognitivas e éticas; 2) Riscos clínicos potenciais (dependência, falsas promessas, privacidade, vieses); 3) Condições sob as quais a intervenção pode ser apropriada apenas como apoio e nunca como substituto; 4) Requisitos de consentimento, supervisão clínica, salvaguardas e critérios para encaminhamento a profissionais de saúde; 5) Um framework de uso seguro para integração com equipes clínicas (limites de diálogo, detecção de crise, escalonamento, registro e auditoria). Proponha métricas de avaliação (eficácia clínica, danos potenciais, satisfação, qualidade da aliança terapêutica, equidade) e um plano de pesquisa para testar cenários reais sem comprometer segurança. Inclua ainda um esboço de interação simulada onde FreudGPT responde a uma preocupação de ansiedade sem fornecer aconselhamento médico direto, com avisos explícitos sobre limites e encaminhamentos apropriados. Finalize com perguntas de pesquisa futuras e referências a evidências relevantes, mantendo o foco na prática clínica segura e na ética.