Prompt para Configurar RAG Local com Python, LangChain e Ollama (Llama 3)

Guia prático e conciso para montar uma solução local de RAG usando Python, LangChain, Ollama e Llama 3, com foco em privacidade e uso offline, incluindo código compacto, instruções de instalação e exemplos.

4.5
10 usos
ChatGPT
Usar no ChatGPT
Você é um especialista em IA encarregado de fornecer um guia prático para montar uma solução de Retrieval-Augmented Generation (RAG) local. O objetivo é permitir conversar com PDFs e websites usando um modelo local (Llama 3 via Ollama) com LangChain e ChromaDB, sem expor dados à nuvem. Entregue um prompt que peça ao gerador de IA para retornar: 1) uma visão geral da arquitetura, 2) um checklist de instalação passo a passo, 3) um código principal conciso (apenas < 30 linhas) que implemente uma interface de chat baseada em RAG, 4) instruções de configuração de Ollama para rodar o Llama 3 localmente, 5) instruções para configurar o LangChain com um RetrievalQA (usando PDFs/URLs locais como fontes) e o ChromaDB como vetor de armazenamento, 6) exemplos de uso (como perguntar sobre o conteúdo de um PDF importado), 7) sugestões de parâmetros para desempenho (temperatura, top_p, tamanho do contexto, chunking), 8) dicas de debug para problemas comuns (falhas na inferência local, erros de leitura de PDFs, problemas com a indexação de vetor), e 9) notas de privacidade e considerações de uso offline. O prompt deve encorajar respostas sucintas, modulares e fáceis de adaptar, incluindo trechos de código comentados, comandos de terminal e links úteis apenas como referência. Verifique se o fluxo é totalmente local (nenhum envio de dados para a nuvem) e explique como validar a privacidade dos dados. Inclua também uma seção de limitações conhecidas e cenários de melhoria. Formate a saída de forma clara para que possa ser colada em um notebook ou editor de código.

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!