IA y datos
Usar LLM con tus datos: patrones prácticos
Patrones de ingeniería para conectar aplicaciones con LLM a datos empresariales mediante recuperación controlada, herramientas y autorización.

En este artículo
Un LLM puede producir un texto fluido, pero esa fluidez no demuestra que conozca los datos actuales de tu organización, sus definiciones ni sus reglas de acceso. Una aplicación de datos útil debe recuperar o calcular los hechos pertinentes, autorizar al usuario para consultarlos y limitar lo que el modelo puede hacer con ellos.
El LLM es, por tanto, un componente más de la arquitectura de una aplicación. La aplicación sigue necesitando ingeniería convencional: API, identidad, permisos, esquemas, validación, monitoreo, pruebas y código determinista. Los patrones siguientes se centran en esas fronteras, no en el entusiasmo por los modelos.
La distinción importante
El entrenamiento proporciona al modelo capacidades generales y conocimiento público hasta el momento de su entrenamiento. No le da automáticamente acceso a una tabla privada de ventas, a la ejecución del pipeline de ayer, a una política interna ni al significado de negocio de «cliente activo». Aunque durante el entrenamiento apareciera información parecida, no debe considerarse una copia fiable de los datos empresariales.
Las aplicaciones proporcionan contexto controlado en el momento de la solicitud. Puede proceder de documentos recuperados, un resultado SQL, un servicio de métricas semánticas o una función de aplicación aprobada. El mecanismo debe devolver la menor cantidad de información pertinente y autorizada que la tarea necesite.
Esta separación es valiosa. La plataforma de datos sigue siendo el sistema de registro. Los servicios deterministas calculan y aplican permisos. El LLM interpreta una pregunta, elige entre las capacidades permitidas y expresa un resultado. No debe convertirse en una base de datos alternativa sin gobierno.
Patrón 1: Retrieval-Augmented Generation
Retrieval-Augmented Generation, o RAG, recupera el contexto pertinente antes de pedirle una respuesta al modelo:
- Pregunta del usuario
- Recuperar el contexto pertinente
- Construir un prompt y un contexto acotados
- LLM
- Respuesta con referencias de respaldo
Para datos no estructurados, la recuperación suele buscar fragmentos de documentos mediante palabras clave, embeddings, filtros de metadatos o una combinación. La división debe respetar los límites útiles del documento: una sección completa de una política suele ser mejor contexto que fragmentos arbitrarios que omiten definiciones o excepciones. Guarda identificadores de origen y metadatos de acceso con cada fragmento para que la aplicación pueda autorizarlo y citarlo.
Los datos estructurados también pueden formar parte de la recuperación. Un catálogo puede devolver descripciones de tablas, definiciones de métricas, documentación de esquemas o resúmenes precalculados. Sin embargo, recuperar un esquema no equivale a recuperar la respuesta. Si la pregunta pide los ingresos actuales, una consulta controlada o una función de métricas debe calcularlos a partir del sistema de registro.
La calidad de RAG depende de más que el modelo. Evalúa si se recuperó la fuente correcta, si el contexto contiene la respuesta, si esta está respaldada por el contexto y si las citas apuntan a material accesible. Una respuesta pulida basada en el documento equivocado sigue siendo incorrecta.
Patrón 2: LLM más SQL
Text-to-SQL puede facilitar la exploración de datos, pero ejecutar directamente cualquier salida del modelo es peligroso. La consulta podría acceder a datos no autorizados, realizar scans costosos, exponer columnas sensibles o modificar la base de datos.
Un flujo controlado separa interpretación, validación, ejecución y explicación:
- Pregunta del usuario
- Clasificar la intenciónIdentificar un dominio de datos aprobado
- Generar una consulta restringidaO elegir una plantilla de consulta
- Validar la consulta
- tablas
- columnas
- operaciones
- alcance
- controles de costo
- Ejecutar con una identidad de solo lectura
- Devolver un resultado acotado
- El LLM explica el resultado
Prefiere una lista permitida de esquemas, vistas y operaciones. Usa un parser o una capa de validación consciente de la base de datos en vez de buscar palabras peligrosas en el texto SQL. Aplica credenciales de solo lectura, límites de filas, tiempos de espera de instrucciones y gobierno de recursos en la frontera de la base. La autorización debe aplicarse antes de ejecutar; pedirle al modelo que recuerde las reglas de seguridad no es un control de autorización.
Para preguntas habituales, las plantillas de consulta o los procedimientos almacenados son más seguros y fáciles de probar que la generación abierta. El modelo puede asociar «mostrar las ventas regionales del mes pasado» con una función de reporte aprobada y proporcionar parámetros validados. Reserva la generación flexible de SQL para entornos donde su valor justifique la revisión y contención adicionales.
Patrón 3: capa semántica
Los esquemas de las bases describen almacenamiento, pero no siempre el significado de negocio. El modelo puede ver net_amt sin saber si incluye impuestos, devoluciones o conversión de moneda. Una capa semántica ofrece a la aplicación una representación curada de métricas, campos, relaciones y definiciones.
El contexto semántico útil incluye:
- métricas de negocio aprobadas y quién es responsable de su cálculo;
- descripciones legibles de campos y sus unidades;
- tablas o vistas permitidas;
- relaciones válidas y direcciones de join;
- sinónimos que utiliza el negocio;
- reglas de frescura, granularidad y fecha efectiva;
- campos que no deben exponerse al modelo.
Esta capa reduce la ambigüedad y crea un contrato que puede probarse independientemente del prompt. También permite que la misma definición de métrica sirva a informes, API y experiencias basadas en LLM. No dupliques un cálculo crítico en el texto del prompt si un servicio de métricas gobernado puede calcularlo de forma determinista.
Patrón 4: herramientas y llamadas a funciones
Las herramientas permiten que el modelo solicite acciones controladas de la aplicación en vez de recibir acceso irrestricto al sistema. La aplicación publica una capacidad pequeña con un contrato tipado de entrada y salida:
get_sales_summary(start_date, end_date, region)
get_customer_metrics(customer_id)
run_approved_report(report_name, parameters)
El modelo puede proponer una llamada a una herramienta, pero la aplicación valida sus argumentos, comprueba los permisos del usuario, invoca la implementación y devuelve un resultado acotado. Una herramienta debe representar una capacidad de negocio, no ser una consola SQL o un shell sin restricciones disfrazado.
Mantén las herramientas lo bastante acotadas para poder probarlas. Documenta unidades y semántica de fechas. Devuelve errores estructurados que distingan un parámetro no válido, una solicitud no autorizada, la ausencia de datos y un fallo de dependencia. Así el modelo podrá explicar el resultado sin inventarlo.
Las llamadas a herramientas también mejoran la observabilidad. La aplicación sabe qué capacidad se ejecutó, con qué parámetros aprobados y contra qué fuente de datos. Es mucho más fácil de auditar que intentar deducir el comportamiento a partir de un prompt grande.
La seguridad es responsabilidad de la aplicación
Autentica al usuario antes de acceder a datos empresariales. Autoriza cada recuperación, consulta o llamada a herramienta según esa identidad. Aplica controles por fila y tenant en capas confiables de la aplicación o la plataforma de datos, no solo mediante instrucciones en lenguaje natural.
Usa identidades separadas con los privilegios mínimos necesarios. Guarda los secretos en un gestor adecuado o en la configuración del entorno y nunca los pongas en los prompts. Trata los documentos recuperados y los valores de la base como entradas no confiables: pueden incluir instrucciones diseñadas para manipular el modelo. La prompt injection no se limita a la pregunta del usuario; también puede estar incrustada en un documento recuperado por el sistema.
Define qué campos sensibles pueden entrar en el contexto del modelo y cuáles deben enmascararse, agregarse o excluirse. Considera el tratamiento de datos del proveedor del modelo, la retención, los requisitos regionales y el comportamiento de los logs. El aislamiento de tenants debe mantenerse en todos los caminos, incluidos cachés, trazas, mensajes de error y conjuntos de evaluación.
Por último, valida la salida antes de que provoque una acción externa. Una explicación generada puede mostrarse con citas; una actualización de alto impacto, una notificación o una acción financiera requiere comprobaciones deterministas y, a menudo, aprobación humana explícita.
Ejemplo con datos estructurados
El ejemplo mantiene el acceso a los datos detrás de una función aprobada. El cliente del modelo es deliberadamente abstracto: las credenciales y la configuración del proveedor deben estar en el entorno o en una configuración administrada, no en el código fuente.
from dataclasses import dataclass, asdict
import json
import os
@dataclass
class SalesSummary:
period: str
region: str
order_count: int
net_sales: float
def get_sales_summary(user, period: str, region: str) -> SalesSummary:
if not user.can_read_region(region):
raise PermissionError("Region is not authorized")
# In production, call a parameterized query or governed metric service.
return reporting_service.sales_summary(period=period, region=region)
def answer_sales_question(user, question: str, period: str, region: str):
summary = get_sales_summary(user, period, region)
context = json.dumps(asdict(summary))
prompt = f"""Explain this approved sales summary.
Use only the supplied JSON. State when the data is insufficient.
Question: {question}
Data: {context}
"""
model_name = os.environ["LLM_MODEL_NAME"]
return model_client.generate(model=model_name, prompt=prompt)
El ejemplo no es código completo de producción, pero sus límites importan: el permiso se comprueba antes de recuperar datos, la función devuelve una estructura definida, el prompt restringe las evidencias y no hay ninguna clave API incrustada en el programa. Una implementación de producción añadiría validación de entrada, tiempos de espera, política de reintentos, comprobaciones de salida y telemetría estructurada.
Los conjuntos grandes permanecen en la plataforma de datos
No envíes miles de millones de filas —ni siquiera una extracción grande en bruto— a un LLM. Los modelos no son motores de consulta y las ventanas de contexto no sustituyen una arquitectura de almacenamiento y cálculo.
Filtra por el alcance autorizado del usuario, calcula las métricas en SQL o Spark, agrega a la granularidad necesaria y recupera solo los documentos o registros pertinentes. Después entrega al modelo el resultado compacto que necesita para explicarlo o compararlo. Si la tarea requiere aritmética exacta, haz el cálculo en código y deja que el modelo comunique el resultado.
Esta división mejora la corrección, latencia, seguridad y costo. También hace más claras las pruebas: la función de datos puede comprobarse con valores exactos y la capa de lenguaje puede evaluarse por la fidelidad de su explicación.
Usar la caché con cuidado
La caché puede reducir el trabajo repetido con datos y las llamadas al modelo. Algunos buenos candidatos son informes aprobados que se solicitan con frecuencia, resultados de recuperación de documentos estables, embeddings y resúmenes generados cuya fuente no haya cambiado.
Cada clave de caché debe incluir las dimensiones que afectan la autorización y el significado: tenant, alcance o rol del usuario, parámetros, versión de la fuente, versión del modelo y, cuando corresponda, versión del prompt o de la herramienta. Una caché que ignora la identidad del tenant puede provocar una filtración de datos.
Define explícitamente la frescura. Un resumen diario para la dirección y un asistente para incidentes en tiempo real tienen tolerancias distintas. Invalida las explicaciones almacenadas cuando cambia la versión de la métrica o del documento subyacente. Separa los resultados deterministas de datos de la redacción generada cuando eso proporcione un control más claro.
Observabilidad sin recopilar datos de forma imprudente
Una aplicación con LLM necesita telemetría tanto de los servicios convencionales como de las interacciones con el modelo. Un registro útil de solicitud puede contener:
- identificador de solicitud o correlación;
- tenant autenticado y una referencia de usuario no sensible;
- versión del modelo y de la configuración;
- latencia total y latencia de dependencias;
- herramientas seleccionadas y sus resultados;
- identificadores de fuentes de datos y documentos;
- uso de tokens;
- decisión de validación o seguridad;
- categoría de error saneada.
No registres a ciegas prompts completos, contexto recuperado ni respuestas del modelo. Pueden contener información personal, secretos o datos de negocio. Prefiere metadatos estructurados, redacción, muestreo controlado y almacenamiento de diagnóstico con acceso restringido. La captura detallada del contenido debe ser una decisión explícita de política, no una opción predeterminada del SDK.
Traza la solicitud a través de recuperación, SQL, herramientas y llamadas al modelo con un único identificador de correlación. Así un ingeniero puede distinguir una recuperación lenta de una generación lenta e identificar si una respuesta incorrecta empezó con contexto insuficiente, una consulta defectuosa o una salida del modelo sin respaldo.
Controlar el costo mediante la arquitectura
El costo depende del volumen de solicitudes, el tamaño del contexto y de la salida, el modelo elegido, los reintentos y el trabajo repetido. Usa el modelo menos complejo que cumpla el requisito evaluado. Recupera menos elementos de contexto, pero mejores. Resume una vez los documentos estables cuando corresponda. Mantén el enrutamiento determinista y la validación fuera del modelo.
Evita enviar el mismo catálogo de esquemas o conjunto de políticas en cada solicitud si basta con un contrato de herramienta más acotado. Limita las respuestas. Detecta bucles de reintentos. Mide el costo por tarea útil, no solo el costo por llamada al modelo. Los precios de los proveedores cambian, así que la arquitectura debe exponer el uso y la configuración en lugar de incorporar supuestos sobre una tarifa actual.
Una arquitectura práctica
Usuario
- Cliente UI o API
Aplicación
- Aplicación / orquestaciónGestiona la solicitud y la conversación
Autenticación
- Autenticación
- Autorización
Frontera de confianza: se aplica antes de que los datos salgan de su capa gobernada.
Herramientas
- Recuperación
- SQL controlado
- Llamadas a herramientas / funciones
Plataforma de datos
- Plataforma de datos gobernadaSeguridad a nivel de fila y columna
LLM
- LLMSolo recibe contexto seleccionado y acotado
Respuesta
- Respuesta validadaComprobada antes de mostrarla o ejecutar una acción
Cross-cutting concerns
- Logs de auditoría
- Evaluación
- Límites de costo
- Caché
El orden exacto puede variar —por ejemplo, una herramienta puede llamar a la plataforma de datos y después al modelo—, pero las fronteras de confianza deben seguir siendo visibles. La identidad y la autorización se aplican antes de que los datos salgan de su capa gobernada. El modelo recibe contexto seleccionado. La salida se valida antes de presentar una respuesta o proponer una acción.
El trabajo relacionado incluye la supervisión de pipelines de datos en producción y el diseño del proyecto AI Data Assistant.
Cuándo no usar un LLM
Usa una consulta SQL normal cuando el usuario necesita una tabla o métrica exacta y la interpretación en lenguaje natural no aporta valor. Aplica reglas de negocio deterministas para elegibilidad, precios, cumplimiento y otras decisiones que deben ser previsibles y auditables. Usa búsqueda convencional cuando la recuperación por palabras clave o facetas ya resuelve el problema. Haz los cálculos en código en vez de pedir al modelo que simule una calculadora.
Un LLM es útil cuando el lenguaje es central: interpretar preguntas variadas, sintetizar unas pocas fuentes autorizadas, explicar un resultado estructurado o ayudar al usuario a elegir entre capacidades controladas. Añade un riesgo innecesario cuando el requisito ya es preciso y determinista.
Conclusión
Las aplicaciones útiles de LLM con datos no evitan la ingeniería de datos; dependen de ella. Las definiciones gobernadas, las consultas fiables, la autenticación, el aislamiento de tenants, la observabilidad y las herramientas probadas hacen que la capa de lenguaje sea lo bastante confiable para usarla.
Trata el modelo como una interfaz y un componente de razonamiento, no como la plataforma de datos ni como una frontera de seguridad. Mantén los hechos en los sistemas de registro, los cálculos en servicios deterministas, los permisos en controles confiables y el contexto que recibe el modelo tan pequeño y explícito como permita la tarea.
¿Te resultó útil este contenido?
¿Qué podríamos mejorar?
Gracias — esto me ayuda a mejorar Javi Builds.
Sigue aprendiendo
- ArtículoCómo proteger los endpoints SQL en Azure: Application Gateway o Private LinkCompara la conectividad privada y el proxy de Application Gateway para SQL Server, Azure SQL y Fabric, con límites claros para WAF, TDS y TLS.Leer artículo
- Guía rápidaDepurar problemas comunes de pandasDiagnostica fallos comunes de pandas relacionados con dtypes, valores faltantes, joins, asignación encadenada, datos duplicados, errores de fechas, presión de memoria y cambios inesperados en el número de filas.Abrir guía rápida
¿Qué debería crear después?
Estoy construyendo Javi Builds alrededor de problemas reales que enfrentan los ingenieros de datos. Dime qué tema te gustaría ver después.
Mantente al día
Recibe solo las novedades de Javi Builds que realmente te interesan.
Revisa tu bandeja de entrada
Te he enviado un enlace de confirmación. Tu suscripción se activará cuando la confirmes.