Monitorización#

Ultralytics Platform proporciona monitoreo para endpoints desplegados. Realiza un seguimiento de las solicitudes de los endpoints, la latencia, los errores y los registros. Los endpoints dedicados de pago también proporcionan estadísticas de predicción en directo y ejemplos temporales que puedes inspeccionar y guardar en conjuntos de datos.

Panel de despliegues#

La página Deploy de la barra lateral sirve como panel de monitorización de todos tus despliegues. Combina el mapa del mundo, las métricas generales y la gestión de despliegues en una sola vista. Consulta Dedicated Endpoints para crear y gestionar despliegues.

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Ready Deployment"
        Monitoring[Monitoring Tab: Paid Endpoints]:::out
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Monitoring
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Tarjetas de resumen#

Cuatro tarjetas de resumen en la parte superior de la página muestran:

Se muestra la latencia P95 en lugar de la latencia mediana porque las comprobaciones de estado responden en un par de milisegundos y, de lo contrario, dominarían la percepción de la latencia de inferencia real.

Mapa del mundo#

El mapa del mundo interactivo muestra:

• Marcadores de región para las 42 regiones disponibles
• Marcadores verdes para las regiones con un despliegue listo
• Marcadores azules animados para las regiones con despliegues activos en curso
• El tamaño del marcador varía según el estado del despliegue y la latencia

Haz clic en cualquier región para abrir el diálogo New Deployment. El mapa se oculta en pantallas pequeñas.

Lista de despliegues#

Debajo de las tarjetas de resumen, la lista de despliegues muestra todos los endpoints de tus proyectos. Usa el selector del modo de vista para alternar entre:

Métricas por despliegue#

Cada tarjeta de despliegue (en la vista de tarjetas) muestra métricas en tiempo real. La fila de métricas, la comprobación de estado y las pestañas Logs, Code y Predict descritas a continuación solo aparecen mientras el despliegue está Ready:

Fila de métricas#

Las métricas se actualizan automáticamente. Los endpoints que aún no han atendido ninguna solicitud muestran «Aún no hay tráfico», y las métricas solo se recopilan para los despliegues en estado Ready. En el panel de despliegues, las métricas se obtienen para los 20 despliegues más recientes.

Comprobación del estado#

Los despliegues en ejecución muestran un indicador de comprobación de estado:

Las comprobaciones de estado se reintentan automáticamente mientras el estado sea incorrecto y se detienen cuando el endpoint responde. Haz clic en el icono de actualización para activar manualmente una comprobación de estado, que también sirve para calentar un endpoint escalado a cero antes de enviar tráfico.

Pestaña de monitoreo#

Abre Deploy, cambia a la vista Cards y selecciona Monitoring en un endpoint dedicado de pago que esté en estado Ready. Envía una imagen a través de su pestaña Predict o de la API del endpoint para rellenar Temporary Examples y Prediction Statistics. Antes de procesar la primera imagen, la pestaña muestra No images processed.

Ejemplos temporales#

La galería contiene una muestra dinámica de imágenes procesadas con superposiciones de predicción. Abre una imagen para inspeccionar las predicciones en el visor de pantalla completa y usa los controles de visibilidad para ajustar las superposiciones. La galería muestra inicialmente hasta 12 ejemplos; Show all la amplía.

• Muestreo: Hasta dos ejemplos inicialmente, y luego hasta una imagen adicional por minuto. La captura se realiza según el mejor esfuerzo; la inferencia no espera a que se codifique el ejemplo.
• Capacidad: Como máximo 100 imágenes dentro de un presupuesto de memoria compartido de 100 MiB para imágenes comprimidas, metadatos de predicción y recursos asociados. La interfaz etiqueta este presupuesto como 100 MB.
• Reemplazo: Los ejemplos más antiguos se reemplazan cuando se alcanza cualquiera de los dos límites. Un ejemplo puede dejar de estar disponible mientras lo estás viendo.
• Almacenamiento: Los ejemplos temporales permanecen en la memoria del endpoint. Guardarlos en un conjunto de datos utiliza los límites normales de almacenamiento y procesamiento del espacio de trabajo.

Guardar ejemplos en un conjunto de datos#

Los miembros del espacio de trabajo con permisos de edición de contenido pueden guardar ejemplos en un conjunto de datos dentro del espacio de trabajo del endpoint:

1. Selecciona ejemplos individuales usando sus casillas de verificación o haz clic en Select all.
2. Haz clic en Save to dataset.
3. Elige un conjunto de datos existente con la misma tarea que el modelo desplegado. Los conjuntos de datos de origen conectado quedan excluidos; crea primero un conjunto de datos compatible si no hay ninguno disponible.
4. Haz clic en el botón Save, que muestra el recuento de imágenes seleccionadas, y luego abre el conjunto de datos para seguir el procesamiento.

Las imágenes y predicciones seleccionadas se copian a través del flujo de trabajo estándar de carga e ingesta de conjuntos de datos. Se aplican la cuota normal, el mapeo de clases y el manejo de duplicados. Guardar los ejemplos deja los ejemplos temporales en la galería; las imágenes del conjunto de datos ingresadas con éxito sobreviven a los reinicios y a la eliminación del endpoint. Revisa las etiquetas predichas antes de usarlas para el entrenamiento.

Para eliminar ejemplos temporales, usa el control de papelera al pasar el cursor sobre una imagen o selecciona los ejemplos y haz clic en el botón de papelera masiva, luego confirma Delete. La eliminación de ejemplos deja intactas las estadísticas de predicción agregadas y las imágenes ya guardadas en los conjuntos de datos.

Estadísticas de predicción#

Las estadísticas agregan las imágenes procesadas independientemente del muestreo de la galería. Eliminar o reemplazar un ejemplo no resta su contribución. El resumen muestra las imágenes, las predicciones y las imágenes sin predicciones para el período seleccionado; los modelos de profundidad muestran el recuento de imágenes.

El selector de fechas toma por defecto los últimos 30 days y acepta rangos de hasta 365 days. Las fechas seleccionadas usan límites en UTC; las marcas de tiempo de los gráficos se muestran en hora local. Los rangos recientes de hasta tres días utilizan un historial por hora cuando todo el rango se encuentra dentro de las últimas 72 horas; otros rangos utilizan un historial diario. El rango de fechas filtra las estadísticas, mientras que la galería continúa mostrando los ejemplos temporales actuales.

El historial está limitado a 72 hourly buckets y 365 daily buckets, y está disponible únicamente desde que se inició la instancia actual. Un período seleccionado sin imágenes procesadas muestra No images processed in this period.

Los gráficos disponibles dependen de la tarea y de las predicciones recopiladas:

El monitoreo se actualiza aproximadamente cada 2 seconds mientras su panel está abierto y visible. El sondeo se pausa cuando el panel está fuera de la pantalla o la pestaña del navegador está oculta. Una inferencia exitosa a través de la pestaña Predict del despliegue también activa una actualización de las estadísticas.

Registros#

Cada tarjeta de despliegue incluye una pestaña Logs para consultar las entradas de registro recientes:

Entradas de registro#

Cada entrada de registro muestra:

La interfaz de usuario muestra las 20 entradas más recientes y oculta las que están vacías. La API utiliza de forma predeterminada 50 entradas por solicitud (máximo 200) y devuelve un nextPageToken para paginar hacia atrás.

Ejemplos de código#

Cada tarjeta de implementación incluye una pestaña Code que muestra código de API listo para usar con la URL del endpoint ya cumplimentada. Para los propietarios del espacio de trabajo, se inserta la clave de API asociada a la implementación, lista para copiarla y ejecutarla. Los usuarios que no son propietarios ven un marcador de posición YOUR_API_KEY:

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Predict del despliegue#

La pestaña Predict de cada tarjeta de implementación proporciona un panel de predicción integrado: la misma interfaz que la pestaña Predict del modelo, pero ejecutando la inferencia a través del endpoint de implementación en lugar del servicio compartido. Resulta útil para probar directamente un endpoint implementado desde el navegador. Consulta Inferencia para obtener información sobre los parámetros y los formatos de respuesta.

Endpoints de API#

Cada implementación se identifica mediante su propietario y su nombre, y cada ruta requiere una clave de API. Consulta la referencia de la API para obtener información sobre la autenticación.

Métricas de la implementación#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

SDK de Python: client.deployments.metrics(owner, deployment, range="24h")

Devuelve la carga útil completa de métricas de una implementación: un bloque summary con el total de solicitudes, el número y la tasa de errores, y la latencia media, P50, P95 y P99, además de matrices timeSeries para las solicitudes, los errores y la latencia P50 y P95, el uso de CPU y memoria, y el número de instancias.

Con sparkline=true, la respuesta tiene el formato compacto que utilizan las tarjetas de implementación: 24 recuentos de solicitudes por hora, además del total de solicitudes, la tasa de errores y la latencia media. Esta es la llamada que se actualiza cada 60 segundos.

Registros de la implementación#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

SDK de Python: client.deployments.logs(owner, deployment, limit=50, severity="ERROR,WARNING")

Devuelve las entradas de registro recientes con un filtro de gravedad y paginación opcionales.

Estado de la implementación#

GET /api/deployments/{owner}/{deployment}/health

SDK de Python: client.deployments.health(owner, deployment)

Hace ping a la implementación y devuelve su estado de salud con la latencia de ida y vuelta medida:

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Una respuesta que indica que no está saludable omite status cuando no se ha podido acceder al endpoint en absoluto y añade un mensaje error.

Optimización del rendimiento#

Usa los datos de monitorización para optimizar tus implementaciones:

Preguntas frecuentes#