RAG en una pyme: convertir tu documentación en conocimiento consultable

Introducción

En muchas pymes el conocimiento crítico no está en un sistema, sino en personas concretas y en documentos dispersos: carpetas de red, correos, wikis medio vacías y algún Excel olvidado. Cada vez que alguien pregunta “¿cómo se hace esto?” la respuesta es una interrupción al veterano de turno, con tiempo de gestión perdido y riesgo de error si esa persona no está disponible. Al mismo tiempo, la adopción de herramientas de inteligencia artificial en empresas europeas sigue siendo minoritaria, aunque crece con rapidez (Eurostat, 2025).

Los estudios sobre digitalización de pymes señalan que el mayor bloqueo no es la existencia de datos, sino la capacidad de convertirlos en conocimiento utilizable por el resto de la organización (OCDE, 2024). En este contexto, la idea de “entrenar una IA con tus datos” suele significar, en realidad, montar un sistema de recuperación aumentada (RAG) que permita consultar documentación interna en lenguaje natural sin depender siempre del experto. Este artículo se centra en ese tipo de sistema: qué es exactamente, qué exige y cómo saber si funciona, dando por hecho que el trabajo previo de accesibilidad y calidad del dato ya está hecho.

Estado de la cuestión: qué es RAG

De modelos generales a conocimiento propio

Los modelos de lenguaje grandes (LLM) almacenan conocimiento en sus parámetros, pero su memoria es estática: no saben que tus procedimientos de calidad cambiaron la semana pasada ni que tu oferta de servicios es distinta a la de la competencia. RAG se diseñó precisamente para añadir a un modelo genérico un “recordatorio externo” actualizado, mediante un módulo de recuperación que busca documentos relevantes y se los pasa al modelo para que responda apoyándose en ellos (Lewis et al., 2020; Gao et al., 2024).

La diferencia práctica frente a usar el modelo “a secas” es que en RAG la respuesta se condiciona explícitamente a un conjunto de textos internos (procedimientos, contratos, manuales), lo que permite actualizar su conocimiento modificando el índice de documentos en lugar de retocar los pesos del modelo. Las encuestas recientes sobre RAG destacan precisamente esta separación entre el modelo como “motor de lenguaje” y el corpus como “memoria no paramétrica”, clave para entornos empresariales donde la información cambia a menudo (Gupta et al., 2024).

RAG frente a reentrenar o afinar modelos

Cuando una pyme quiere incorporar su conocimiento a un sistema de IA tiene, simplificando, tres caminos:

• Usar un modelo general sin cambiar nada, confiando en su conocimiento público.
• Afinar o reentrenar el modelo (fine-tuning) con ejemplos propios.
• Usar recuperación aumentada, dejando el modelo general casi intacto y dándole acceso a documentación interna durante la inferencia.

El fine-tuning es útil para enseñar estilos, criterios de clasificación o patrones de respuesta, pero no es eficiente para reflejar cambios frecuentes en normativa, tarifas o procedimientos, porque cada modificación exigiría nuevo entrenamiento y validación (Gao et al., 2024). En cambio, RAG permite que la información viva en un índice de documentos que se puede actualizar diariamente, sin tocar el modelo básico. Para conocimiento propio y cambiante (procesos operativos, acuerdos comerciales, histórico técnico), la literatura reciente considera RAG la opción razonable por coste y flexibilidad (Gupta et al., 2024).

Evidencia sobre reducción de respuestas inventadas

Uno de los objetivos explícitos de RAG es reducir las “alucinaciones” del modelo: respuestas que suenan plausibles pero no están respaldadas por ninguna fuente fiable. Trabajos experimentales muestran que añadir recuperación y obligar a responder con base en documentos reduce significativamente ese problema. En diálogo abierto, Shuster et al. observan que los modelos con recuperación integrada disminuyen las respuestas alucinadas en más de un 60 % frente a versiones sin recuperación (Shuster et al., 2021).

Encuestas recientes sobre mitigación de alucinaciones concluyen que la recuperación aumentada, junto con otras técnicas de verificación, es una de las estrategias más eficaces para generar texto verificable en tareas de pregunta-respuesta, resumen y generación de informes (Islam Tonmoy et al., 2024). En un dominio tan exigente como la salud pública, el marco MEGA-RAG consigue reducir la tasa de alucinaciones más de un 40 % respecto a modelos estándar y a RAG básico, combinando recuperación desde múltiples fuentes y módulos explícitos de alineamiento con la evidencia (Xu et al., 2025). La conclusión práctica es que, siempre que la recuperación sea de calidad, apoyar la generación en documentos concretos mejora la fidelidad de las respuestas.

Análisis: de qué depende que un sistema RAG funcione

Calidad y cobertura del corpus

Un sistema RAG solo puede responder bien si “sabe” dónde están las respuestas, y eso depende de qué documentos se indexan y cómo se mantienen. Las revisiones de RAG subrayan que la precisión del sistema está limitada por la calidad y cobertura del corpus: si faltan políticas clave, anexos técnicos o versiones firmadas de contratos, el modelo no podrá recuperar información fiable (Gao et al., 2024; Gupta et al., 2024).

Para una pyme, esto se traduce en decidir qué tipos de documentos forman parte del corpus (procesos, plantillas vigentes, acuerdos marco, manuales técnicos), qué versiones son válidas y cómo se gestionan las caducadas. La fase de “gobernanza del dato” que exige cualquier proyecto de IA, y que en tu organización ya se habrá trabajado, es aquí condición necesaria: sin un repositorio razonablemente limpio y completo, el RAG será un espejo fiel de tus inconsistencias.

Cómo se trocea la documentación y por qué importa

Los modelos no leen documentos enteros: trabajan con fragmentos (“chunks”) de longitud limitada. Trocear significa decidir cómo se cortan esos documentos en unidades que el sistema pueda recuperar y usar sin perder contexto. Los estudios prácticos muestran que un troceo demasiado agresivo (fragmentos pequeños sin solape) rompe la coherencia y hace difícil encontrar la parte relevante, mientras que fragmentos demasiado grandes generan ruido y sobrecargan al modelo con información irrelevante (Islam Tonmoy et al., 2024).

En términos operativos, la pyme debe elegir una estrategia de troceo acorde a su documentación: por secciones de manual, por cláusulas de contrato, por punto de procedimiento, con algo de solape para que los fragmentos contengan contexto suficiente. La recuperación hibrida (combinar búsqueda semántica por embeddings y búsqueda por palabras clave) mejora la pertinencia de lo recuperado, siempre que los fragmentos estén bien definidos (Mala et al., 2025).

Qué hace que la recuperación encuentre lo pertinente

El módulo de recuperación es el corazón del sistema RAG: es quien decide qué trozos de documento “ven” las respuestas. La investigación reciente indica que la reducción de alucinaciones está muy correlacionada con la relevancia de lo recuperado y con la capacidad del modelo para aceptar esa evidencia aunque contradiga su conocimiento previo (Shuster et al., 2021; Islam Tonmoy et al., 2024).

En la práctica, esto implica:

• Usar representaciones semánticas adecuadas para tu dominio (textos jurídicos no se comportan igual que manuales técnicos).
• Medir la recuperación con métricas objetivas, como la fracción de consultas en las que el fragmento recuperado contiene la respuesta correcta, algo que los trabajos de RAG formalizan como “recall” y “knowledge F1” (Shuster et al., 2021).
• Ajustar umbrales de relevancia: si el sistema no encuentra nada suficientemente pertinente, es preferible que lo diga a que se invente una respuesta, tal y como recomiendan los marcos de gestión de riesgo de IA (NIST, 2023).

La citación de la fuente como requisito

Desde la perspectiva de riesgo y confianza, las respuestas de un sistema RAG deben ir acompañadas de las fuentes concretas en las que se apoyan. No es un adorno: es la forma de que un usuario interno pueda comprobar si la interpretación del modelo coincide con el documento original. El Marco de Gestión de Riesgos de IA de NIST y su perfil específico para IA generativa destacan la necesidad de trazabilidad, atribución y cadena de custodia del contenido, especialmente en sistemas que pueden influir en decisiones empresariales o regulatorias (NIST, 2023; NIST, 2024).

Traducido a la pyme, cada respuesta útil debería indicar qué procedimiento, contrato o manual ha utilizado, idealmente enlazando al fragmento correspondiente. Un criterio operativo razonable es no aceptar como “correcta” ninguna respuesta que no pueda señalar al menos una fuente interna que respalde su afirmación principal. Esta exigencia también ayuda a detectar documentos obsoletos: si el sistema cita continuamente un formulario que ya no es el vigente, el problema no está en el modelo sino en el corpus.

Permisos y confidencialidad

En muchas pymes no todo el mundo puede ver todo: hay acuerdos confidenciales, datos de clientes, información laboral y contenidos sensibles. Indexar la documentación para un sistema RAG debe respetar esas fronteras. Los marcos regulatorios europeos insisten en que el despliegue de sistemas de IA en empresas tiene que acompañarse de controles de acceso y gestión de riesgos proporcionales, no solo de cumplimiento formal del Reglamento de IA y la normativa de protección de datos (Comisión Europea, 2024a).

En términos prácticos, esto implica:

• Definir qué repositorios formarán parte del corpus y bajo qué permisos.
• Asegurar que el sistema de recuperación aplica los mismos controles de acceso que el gestor documental: un usuario no debería poder obtener, vía RAG, un contrato o expediente al que no tiene acceso directo.
• Documentar estos controles como parte del sistema de gestión de riesgos de IA, siguiendo recomendaciones como las del AI RMF (NIST, 2023).

Mantenimiento del corpus cuando los documentos cambian

El conocimiento de una pyme es dinámico: cambian los procesos, se negocian nuevas condiciones, se actualizan manuales y se derogan instrucciones. En los informes sobre la Década Digital, la Comisión Europea destaca precisamente que la digitalización de las pymes avanza, pero a un ritmo inferior al necesario, en parte por falta de procesos sistemáticos de actualización y gestión de sistemas (Comisión Europea, 2024b). Un sistema RAG obliga a hacer explícita esa disciplina: la calidad de las respuestas dependerá de que el corpus esté al día.

Esto requiere definir procedimientos para:

• Alta y baja de documentos en el índice (qué entra, qué sale).
• Versionado: marcar qué versión está vigente y cuáles quedan solo para histórico.
• Reindexación periódica: planificar tareas técnicas para refrescar el índice cuando se modifique un volumen significativo de documentación.

En organizaciones con menor madurez digital, este mantenimiento puede ser el cuello de botella real del proyecto: técnicamente montar un índice es sencillo, mantenerlo alineado con la realidad de la empresa es un compromiso organizativo.

Discusión: errores frecuentes y cuándo no compensa montar RAG

Errores frecuentes

Al llevar RAG a una pyme aparecen patrones de error relativamente comunes:

• Confundir RAG con “entrenar tu propio modelo tipo chat”. La consecuencia es sobredimensionar el proyecto, querer resolver todos los problemas a la vez y mezclar recuperación, automatización de tareas y generación creativa sin delimitar qué consultas se quiere responder.
• Indexar “todo” sin seleccionar: incluir documentos obsoletos, correos, borradores y materiales sin estructura. La literatura técnica enfatiza que un corpus ruidoso degrada la calidad de recuperación y aumenta las alucinaciones, incluso con buenos modelos y buenos índices (Islam Tonmoy et al., 2024).
• No evaluar la recuperación: dar por hecho que el buscador funciona porque “el modelo es bueno”, sin medir cuántas veces el fragmento recuperado contiene realmente la respuesta. Los estudios de diálogo con RAG muestran que, sin métricas de conocimiento y consistencia, la apariencia de fluidez oculta errores sistemáticos (Shuster et al., 2021).
• No exigir citaciones en las respuestas: permitir respuestas genéricas sin fuente, lo que impide auditar el sistema y degrada la confianza interna. Los marcos de riesgo señalan que la ausencia de atribución clara es un factor de riesgo relevante, especialmente para decisiones con impacto externo (NIST, 2024).
• Ignorar permisos: montar un índice único y exponerlo a toda la plantilla, sin respetar la compartimentación previa de la información. Esto no solo es un riesgo jurídico, sino que puede generar reticencias internas razonables.

Cuándo NO compensa montar un sistema RAG

No en todas las pymes compensa el esfuerzo de construir y mantener un RAG interno. Algunos criterios prácticos:

• Volumen de documentación: si la empresa tiene pocos documentos clave, bien organizados y poco cambiantes, quizá un gestor documental con buen buscador sea suficiente. La relación coste-beneficio de RAG mejora cuando el corpus es grande, heterogéneo y difícil de recorrer manualmente (Gao et al., 2024).
• Tipo de consulta: si la mayoría de preguntas internas son casos de criterio, negociación o decisiones comerciales que no se apoyan en documentos formales, un RAG responderá poco y mal. En esos entornos puede ser más útil un asistente que apoye en tareas administrativas, dejando el conocimiento tácito en manos de las personas.
• Madurez organizativa: encuestas de la OCDE muestran que, aunque el uso de herramientas de IA crece, muchas pymes siguen con brechas importantes de competencias digitales y de gestión de datos (OCDE, 2024). Si la organización no tiene aún procesos básicos de gestión documental y control de versiones, introducir RAG puede añadir complejidad antes de tiempo.
• Sensibilidad del contenido: en entornos donde la mayor parte de la documentación es altamente confidencial (por ejemplo, expedientes clínicos, datos financieros delicados) y la empresa no tiene recursos para gestionar un control de acceso fino, puede ser más prudente limitar RAG a subconjuntos no sensibles.

Conclusiones: cómo empezar y qué medir

Empezar con un alcance acotado

Para una pyme, un enfoque razonable es empezar con un caso de uso claro y estrecho: por ejemplo, preguntas internas sobre procedimientos de operaciones, instrucciones de atención al cliente o manuales de configuración de producto. Ese ámbito debería cumplir tres condiciones: documentación razonablemente completa, impacto claro en reducción de interrupciones y bajo riesgo regulatorio. A partir de ahí se selecciona el corpus, se trocea la documentación con criterios coherentes y se monta el índice. El trabajo previo sobre preparación del dato (accesibilidad, estructura, calidad) que la empresa ya haya realizado se convierte en la base del proyecto, no en un requisito adicional.

Qué medir para saber si responde bien

La literatura sobre evaluación de RAG propone métricas específicas para saber si un sistema está funcionando, más allá de la impresión subjetiva de los usuarios (Shuster et al., 2021; Gao et al., 2024). Algunas medidas adaptables a una pyme:

• Cobertura: porcentaje de preguntas frecuentes para las que el sistema encuentra al menos un fragmento de documento pertinente.
• Precisión de recuperación: fracción de consultas en las que el fragmento recuperado contiene efectivamente la información necesaria para responder.
• Fidelidad de la respuesta: porcentaje de respuestas que coinciden con lo que una persona experta considera correcto, sin añadir información no presente en las fuentes.
• Tasa de respuestas “sin fuente”: número de veces que el sistema responde sin citar ningún documento; idealmente debería ser mínima.
• Uso real: volumen de consultas y distribución por departamentos, para entender dónde está aportando valor y dónde no.

Complementar estas métricas cuantitativas con una revisión periódica de ejemplos concretos ayuda a detectar patrones de error y a decidir si el sistema está listo para ampliar su alcance. Si tras unos meses se observa que el RAG responde con fidelidad en un dominio acotado, reduce interrupciones a las personas clave y mantiene un nivel aceptable de transparencia y control de riesgos, tendrá sentido extenderlo a más áreas. Si no, será preferible ajustar el corpus, mejorar la recuperación o replantear el caso de uso antes de seguir avanzando.

Referencias

Comisión Europea. (2024a). Impulso a las empresas emergentes y la innovación en inteligencia artificial fiable (COM(2024) 28 final). https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52024DC0028

Comisión Europea. (2024b). Informe sobre el estado de la Década Digital de 2024 (COM(2024) 260 final). https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52024DC0260

Eurostat. (2025). Usage of AI technologies increasing in EU enterprises (DDN-20250123-3). https://ec.europa.eu/eurostat/web/products-eurostat-news/w/ddn-20250123-3

Gao, Y., Xiong, Y., Gao, X., Jia, K., Pan, J., Bi, Y., Dai, Y., Sun, J., Wang, M., & Wang, H. (2024). Retrieval-Augmented Generation for Large Language Models: A Survey. arXiv preprint arXiv:2312.10997. https://doi.org/10.48550/arxiv.2312.10997

Gupta, S., Ranjan, R., & Singh, S. N. (2024). A Comprehensive Survey of Retrieval-Augmented Generation (RAG): Evolution, Current Landscape and Future Directions. arXiv preprint arXiv:2410.12837. https://doi.org/10.48550/arxiv.2410.12837

Islam Tonmoy, S. M. T., Zaman, S. M. M., Jain, V., Rani, A., Rawte, V., Chadha, A., & Das, A. (2024). A Comprehensive Survey of Hallucination Mitigation Techniques in Large Language Models. arXiv preprint arXiv:2401.01313. https://arxiv.org/abs/2401.01313

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W.-T., Rocktäschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. In Advances in Neural Information Processing Systems 33 (NeurIPS 2020). https://arxiv.org/abs/2005.11401

Mala, C. S., Gezici, G., & Giannotti, F. (2025). Hybrid Retrieval for Hallucination Mitigation in Large Language Models (arXiv preprint arXiv:2504.05324). https://arxiv.org/abs/2504.05324

National Institute of Standards and Technology [NIST]. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.100-1

National Institute of Standards and Technology [NIST]. (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.600-1

OCDE. (2024). SME digitalisation to manage shocks and transitions: 2024 OECD D4SME survey. OECD Publishing. https://www.oecd.org/en/publications/sme-digitalisation-to-manage-shocks-and-transitions_735fc4fc-en.html

Shuster, K., Poff, S., Chen, M., Kiela, D., & Weston, J. (2021). Retrieval Augmentation Reduces Hallucination in Conversation. In Findings of the Association for Computational Linguistics: EMNLP 2021 (pp. 3784–3797). Association for Computational Linguistics. https://aclanthology.org/2021.findings-emnlp.320.pdf

Xu, S., Yan, Z., Dai, C., & Wu, F. (2025). MEGA-RAG: A retrieval-augmented generation framework with multi-evidence guided answer refinement for mitigating hallucinations of LLMs in public health. Frontiers in Public Health, 13, 1635381. https://doi.org/10.3389/fpubh.2025.1635381