Entrenar un agente IA con documentos de tu empresa significa montar un pipeline RAG (Retrieval Augmented Generation) donde los documentos se procesan en chunks, se convierten en embeddings, se guardan en vector store propio y se consultan en tiempo de inferencia. No es fine tuning.
¿Por qué RAG y no fine tuning?
Porque RAG es flexible, auditable y barato de mantener. Fine tuning hace al modelo "memorizar" patrones, lo cual sirve para estilo o tono específico pero no para hechos verificables. Si tu política de devolución cambia el mes que viene, con RAG actualizas un documento y el agente lo lee. Con fine tuning reentrenas todo el modelo, lo cual cuesta tiempo y dinero.
| Criterio | RAG | Fine tuning |
|---|---|---|
| Costo inicial | Bajo (embeddings + storage) | Alto (compute para entrenar) |
| Actualización | Editar doc fuente | Reentrenar modelo |
| Auditabilidad | Cita fuente exacta | No cita |
| Adaptación a cambio | Inmediata | Días o semanas |
| Caso de uso ideal | Hechos, política, FAQ | Estilo, tono específico |
| Costo operación | Pass-through tokens | Igual + memoria reservada |
Para 95% de los casos de empresa, RAG resuelve. Híbrido (fine tuning para tono más RAG para hechos) tiene sentido en consultoras grandes o medios editoriales.
Arquitectura del pipeline RAG paso a paso
- Ingesta: tus documentos llegan al sistema. PDFs, Word, Excel, páginas web, transcripciones de juntas
- Pre-proceso: parser por tipo extrae texto plano respetando estructura (títulos, tablas, listas)
- OCR: escaneos pasan por Vision API antes del chunking
- Chunking: el texto se divide en fragmentos de 500 a 1,500 tokens con solapamiento de 10 a 20%
- Embeddings: cada chunk se convierte en vector con OpenAI ada o Cohere multilingual
- Vector store: los vectores se guardan en Pinecone, Supabase pgvector o Weaviate
- Indexación: metadatos por chunk (fuente, fecha, departamento, permisos)
- Inferencia: el usuario pregunta, el sistema embed la consulta, busca top-k chunks similares, los pasa al LLM con la pregunta
- Generación: el LLM redacta respuesta citando fuentes
- Audit: cada consulta queda registrada con qué chunks se usaron
El chunking es el 80% de la calidad
La precisión del agente depende casi enteramente del chunking. Errores comunes:
- Chunks demasiado largos: el modelo se pierde, latencia alta, costo más caro
- Chunks demasiado cortos: pierde contexto, fragmenta sentido
- Sin solapamiento: información en frontera entre chunks se rompe
- Sin metadatos: imposible filtrar por departamento, permiso o fecha
- Sin estructura: bullets y tablas tratados como texto plano pierden semántica
La regla práctica para empresa LATAM: chunks de 800 a 1,200 tokens con 100 a 200 de solapamiento, metadatos enriquecidos (fuente, fecha, autor, tipo de doc, permisos), tablas chunkeadas en código de markdown.
Bronze, Silver y Gold: el patrón aplicado a datos
En un proyecto para una distribuidora con años de datos heredados en SQL Server y tablas inconsistentes, el reto fue normalizarlos.
- Data Lake con arquitectura Bronze, Silver, Gold en Supabase
- Bronze como parquet crudo en GCS
- Verificación fila a fila: source igual a bronze igual a silver igual a gold
- Políticas RLS y roles RBAC para el acceso
El patrón se aplica a documentos igual. Bronze guarda el doc crudo. Silver tiene texto extraído y normalizado. Gold tiene chunks listos para vector store con embeddings y metadatos. Si mañana quieres rastrear por qué el agente respondió X, hay trazabilidad fila por fila hasta el PDF original.
¿Qué documentos conviene cargar primero?
Orden recomendado por ROI:
- FAQ y políticas (devolución, garantía, envío): impacto inmediato en atención al cliente
- Catálogo de productos con descripciones técnicas: habilita cotización y soporte
- Manuales operativos internos: capacitación y onboarding
- Documentación legal y contratos modelo: agilidad para legal y comercial
- Histórico de propuestas ganadas: aprendizaje de patrones exitosos
- Notas de junta y minutas: memoria organizacional
- Bases técnicas, especificaciones de obra: ingeniería y compras
No es buena idea cargar todo de una. Empezar con 50 a 200 docs críticos, medir calidad, iterar chunking y prompts, expandir.
Permisos y compliance
El sistema debe respetar permisos del usuario. No todos pueden consultar todos los docs. Patrón estándar:
- Metadatos por chunk incluyen tags (departamento, confidencialidad, fecha)
- Cada consulta del agente filtra por permisos del usuario antes del retrieval
- Audit log inmutable registra qué chunks se usaron en cada respuesta
- Datos del cliente nunca salen de tu infraestructura
- El LLM se consume vía API con garantía contractual de no entrenamiento
Para industrias reguladas (salud, finanzas, legal) el setup incluye cifrado a nivel campo, retention policies y procedimiento de derecho al olvido.
¿Cuánto cuesta operar RAG empresarial?
El costo mensual tiene tres partes: el almacenamiento de los vectores, la generación de embeddings y las consultas al modelo, cada una con la tarifa de su proveedor. Escala lineal con el uso, no con el número de usuarios.
Próximos pasos
Si tu empresa tiene entre 200 y 50,000 documentos críticos atrapados en carpetas, drives y emails, y quieres que tu equipo y tus clientes accedan en lenguaje natural, el primer paso es una llamada para revisar tu universo documental y casos de uso prioritarios.
Conoce MAGIA Core: agentes de IA para la operación entera de tu empresa en 12 semanas, con data lake y agente con guardrails.