DevOps y observabilidad

Cómo medir el volumen de solicitudes de API e informes

Mide la demanda de API e informes por cliente, tenant, tipo de informe, latencia, concurrencia, tamaño de respuesta y costo por solicitud.

Por JaviPublicado 9 min de lecturaIntermedio

Ciclo de vida de una solicitud de informe, desde la autenticación hasta la finalización observada

El volumen de solicitudes es la primera pregunta en casi cualquier conversación sobre capacidad y límites de solicitudes, y también la más fácil de responder mal. Una cifra como “40.000 solicitudes al día” oculta quién las envió, cuándo llegaron, cuánto costó cada una y si sirvieron para algo. Medir bien el volumen significa registrar cada solicitud con suficiente contexto de identidad y costo para explicar el tráfico, no solo para contarlo.

Registro mínimo

Registra una fila por solicitud: request_id, correlation_id, tenant_id autenticado, client_id, identificador de la clave de API, tipo de informe, intervalo solicitado, horas de llegada y finalización, duración, éxito o fallo, tamaño de la respuesta, filas, concurrencia al llegar, resultado de caché y duración de la consulta. Obtén el tenant y el cliente a partir de la identidad autenticada, nunca de valores que el solicitante envía en el cuerpo de la solicitud. Nunca registres el secreto de una clave de API; el identificador basta para atribuir el tráfico.

Escribe este registro de forma asíncrona y acotada, para que un almacén de telemetría lento no pueda ralentizar ni hacer fallar las solicitudes de informes. Guarda los valores de alta cardinalidad, como request_id y el detalle de los filtros, en el log de solicitudes y no en las etiquetas de las métricas.

Tasas y segmentos

Mide las solicitudes por minuto y por hora y, después, segméntalas por cliente, clave de API, tenant, tipo de informe y estado. Las tasas por minuto muestran ráfagas y tormentas de reintentos; las tasas por hora muestran la forma diaria de la demanda y las ventanas en las que realmente se necesita capacidad. Conserva ambas, porque un promedio por hora puede parecer cómodo mientras algunos minutos superan lo que la plataforma puede atender.

Sigue la concurrencia activa y la antigüedad de la cola junto con la tasa. Las mismas solicitudes por minuto se comportan de forma muy distinta si llegan repartidas que si llegan en ráfaga al comienzo de cada hora. Separa las páginas JSON interactivas de las grandes exportaciones CSV, ya que tienen expectativas de latencia distintas y costos muy diferentes.

Consumidores intensivos

Ordena a los consumidores por número de solicitudes y por costo medido, y compara ambas listas. Un cliente que envía muchas solicitudes pequeñas servidas desde caché puede ser inofensivo; un cliente que envía unas pocas exportaciones en tiempo real de un mes completo puede acaparar el tiempo de consulta. Revisa los tipos de informe, los intervalos de fechas, los formatos, la tasa de aciertos de caché y la tasa de errores de cada consumidor intensivo antes de decidir si su tráfico es un problema.

Patrones de tráfico

Representa el volumen a lo largo del tiempo para cada consumidor intensivo y para la plataforma en conjunto. Algunos patrones útiles de reconocer:

  • Demanda en horario laboral: tráfico interactivo que sigue el horario de trabajo y baja durante la noche.
  • Procesos programados: picos bruscos a horas fijas, a menudo en punto, procedentes de integraciones o exportaciones por lotes.
  • Ráfagas y reintentos: picos cortos de solicitudes fallidas o que agotaron el tiempo de espera, seguidos de repeticiones inmediatas.
  • Sondeo constante (polling): una tasa plana y continua de un mismo cliente a intervalos regulares, sin importar la hora del día.

Los picos programados y el sondeo suelen ser el tráfico más fácil de reorganizar, porque es el solicitante quien controla el momento.

Tráfico útil frente a sondeo excesivo

Una solicitud es útil cuando el solicitante necesita un resultado que todavía no tiene. El tráfico excesivo hace la misma pregunta una y otra vez y recibe la misma respuesta. Para detectarlo, compara solicitudes del mismo cliente, tenant e informe con parámetros normalizados idénticos, es decir, la misma clave canónica que usaría una caché de informes. Muchas solicitudes idénticas dentro de la ventana de vigencia del informe, una tasa de aciertos de caché alta para un solo cliente o solicitudes repetidas de un informe que todavía se está ejecutando indican sondeo o llamadas repetidas, no demanda nueva.

Responde al patrón y no solo al volumen. Las lecturas idénticas repetidas pueden servirse desde caché. Los clientes que consultan periódicamente un trabajo de larga duración pueden pasar a un patrón asíncrono en el que envían la solicitud una sola vez y consultan su estado. Los clientes que reintentan inmediatamente después de un fallo necesitan indicaciones explícitas de limitación, como un intervalo de reintento (retry-after), en lugar de tiempos de espera agotados que invitan a un nuevo intento.

Costo de las solicitudes

Cien solicitudes baratas servidas desde caché pueden costar mucho menos que cien informes en tiempo real de un mes completo. Modela el costo con el intervalo de fechas, el peso del informe, la franja de filas esperada, el formato, el tiempo de consulta, las lecturas o los bytes escaneados, los bytes de salida y el resultado de caché. Versiona y calibra el modelo con el tiempo de consulta medido; es una estimación operativa, no una cifra de facturación.

Decisiones de capacidad y límites de solicitudes

Usa las tasas, la concurrencia y el costo medidos para fijar los límites de forma deliberada. Basa la capacidad de pico en las evidencias por minuto y de concurrencia de las ventanas más intensas, no en el total diario. Aplica cuotas y límites de concurrencia por tenant a partir de la identidad autenticada, para que un consumidor no pueda agotar la capacidad de los demás. Considera límites por costo además de por número: un presupuesto de solicitudes que trata igual una página JSON en caché y una exportación CSV de un año será demasiado estricto o demasiado generoso.

Deriva el trabajo grande a un patrón asíncrono cuando corresponda, devuelve respuestas de limitación explícitas con indicaciones y revisa los límites a medida que cambian los patrones de tráfico. Vuelve a medir después de cada cambio: una nueva cuota o regla de caché debería reflejarse en una menor tasa de solicitudes repetidas o en un menor costo por consumidor, no solo en menos solicitudes.

Compromisos y modos de fallo

Los logs detallados de solicitudes facilitan el diagnóstico, pero añaden costos de almacenamiento, privacidad y cardinalidad; mantén las métricas agregadas y lleva el detalle por solicitud a logs con una retención definida. La caché reduce el trabajo repetido, pero introduce preguntas de vigencia, así que mide la tasa de aciertos de caché por informe y por consumidor, no solo de forma global.

Ten en cuenta los resultados parciales al contar. Un informe puede terminar después de que el solicitante se desconecte, y una escritura de caché puede fallar después de devolver un resultado válido. Cuenta esos casos de forma explícita en lugar de incluirlos como éxito o fallo, y no registres como cero una duración o un número de filas desconocidos.

Preguntas para la revisión operativa

Antes de confiar en las cifras, comprueba que quien responde a un incidente puede contestar con las evidencias conservadas: qué cliente y qué tenant enviaron el tráfico, qué tipos de informe y formatos predominaron, si el volumen era demanda nueva o solicitudes idénticas repetidas y si los fallos provocaron reintentos. Confirma que los dashboards distinguen las solicitudes rechazadas, en cola, en ejecución, completadas, fallidas y canceladas. Si las evidencias no permiten distinguir a un cliente que crece de un proceso de sondeo mal configurado, la medición todavía no está lista para guiar decisiones de capacidad o de límites de solicitudes. Para el contexto general, consulta Monitoreo de una plataforma de datos: ¿qué conviene medir realmente? y Arquitectura de un motor de informes: de la solicitud al resultado.

Etiquetas

  • API
  • Informes
  • Monitorización
  • Observabilidad
  • Rendimiento
  • Multiinquilino
  • Caché