Estratégias de model fine-tuning em Engenharia de Prompt

"Desenvolva um guia passo a passo detalhado (com exemplos de código Python, se aplicável) sobre como um engenheiro de prompt pode otimizar um modelo de linguagem pré-treinado (LLM) para tarefas específicas de sumarização de texto jurídico, utilizando técnicas de 'fine-tuning' com um conjunto de dados pequeno e anotado. O guia deve abordar: 1) Estratégias para a criação e curadoria do dataset de fine-tuning (exemplos de anotação); 2) Escolha do modelo base e justificativa para a arquitetura; 3) Métodos de 'transfer learning' aplicados ao contexto jurídico; 4) Técnicas de regularização e mitigação de 'overfitting' para datasets limitados; 5) Métricas de avaliação específicas para sumarização jurídica (ex: ROUGE, mas também considerações sobre fidelidade e relevância jurídica); 6) Desafios comuns e 'troubleshooting' (ex: viés, alucinação); 7) Boas práticas para a implementação em produção e monitoramento pós-fine-tuning. O objetivo é que o guia sirva como um manual prático para engenheiros de prompt que precisam adaptar LLMs para domínios de alta especificidade com recursos computacionais e de dados limitados."