Asistentes RAG privados
Conversa con tus documentos sin que salgan de tu red
- Ollama (Qwen 2.5 VL 72B)
- Qdrant
- LlamaIndex / LangChain
- Embeddings locales (nomic, mxbai)
- Inferencia en CPU (96 GB RAM) con eGPU opcional
Sistemas de consulta sobre documentos internos, 100% privados y locales. Nada viaja a OpenAI, Google ni otro proveedor. Contratos, manuales, políticas y documentación técnica consultables en lenguaje natural por cualquier persona del equipo.
- PDF, Word, Excel y CSV, imágenes con OCR y Markdown
- Multimodal: entiende diagramas, facturas escaneadas y formularios con texto e imagen
- Chunking semántico y búsqueda híbrida
- Generación anclada: el modelo avisa cuando no tiene la respuesta
- Ingestión con hash por archivo para no reindexar lo que ya está
- Funciona sin internet una vez instalado
- Pensado para documentos en español
Caso real
Asistente RAG 100% privado
Experiencia del equipo: piloto para una empresa con miles de documentos internos. Ingestión automatizada, hash por archivo para evitar reindexar, umbral mínimo de relevancia y cada respuesta con sus fuentes citadas. Todo autohosteado y sin salida a internet.