Monitoraggio

Ultralytics Platform fornisce il monitoraggio per gli endpoint distribuiti. Tieni traccia delle metriche delle richieste, visualizza i log e controlla lo stato di salute con il polling automatico.

Dashboard delle distribuzioni

La pagina Deploy nella barra laterale funge da dashboard di monitoraggio per tutte le tue distribuzioni. Combina la mappa del mondo, le metriche di panoramica e la gestione delle distribuzioni in un'unica visualizzazione. Consulta Dedicated Endpoints per creare e gestire le distribuzioni.

graph TB
    subgraph Dashboard
        Map[World Map] --- Cards[Overview Cards]
        Cards --- List[Deployments List]
    end
    subgraph "Per Deployment"
        Metrics[Metrics Row]
        Health[Health Check]
        Logs[Logs Tab]
        Code[Code Tab]
        Predict[Predict Tab]
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    style Dashboard fill:#f5f5f5,color:#333
    style Map fill:#2196F3,color:#fff
    style Cards fill:#FF9800,color:#fff
    style List fill:#4CAF50,color:#fff

Schede di panoramica

Quattro schede riepilogative nella parte superiore della pagina mostrano:

Mappa del mondo

La mappa interattiva del mondo mostra:

• Pin di regione per tutte le 43 regioni disponibili
• Pin verdi per le regioni distribuite
• Pin blu animati per le regioni con distribuzioni attive in corso
• La dimensione del pin varia in base allo stato della distribuzione e alla latenza

Elenco delle distribuzioni

Sotto le schede di panoramica, l'elenco delle distribuzioni mostra tutti gli endpoint nei tuoi progetti. Usa l'interruttore della modalità di visualizzazione per passare tra:

Metriche per singola distribuzione

Ogni scheda di distribuzione (nella vista schede) mostra metriche in tempo reale:

Riga delle metriche

Le metriche vengono recuperate dall'endpoint API sparkline e si aggiornano ogni 60 secondi.

Controllo integrità (Health Check)

Le distribuzioni in esecuzione mostrano un indicatore di controllo dello stato:

I controlli dello stato riprovano automaticamente ogni 20 secondi quando non sono sani. Fai clic sull'icona di aggiornamento per attivare manualmente un controllo dello stato. Il controllo dello stato utilizza un timeout di 55 secondi per accogliere gli avvii a freddo sugli endpoint con scala a zero.

Log

Ogni scheda di distribuzione include una scheda Logs per visualizzare le voci di log recenti:

Voci di log

Ogni voce di log mostra:

L'interfaccia mostra le 20 voci più recenti. L'API imposta per impostazione predefinita 50 voci per richiesta (massimo 200).

Esempi di codice

Ogni scheda di distribuzione include una scheda Code che mostra codice API pronto all'uso con il tuo URL dell'endpoint e la tua chiave API:

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Predict di Deployment

La scheda Predict su ogni scheda di distribuzione offre un pannello di previsione integrato: la stessa interfaccia della scheda Predict del modello, ma che esegue l'inferenza tramite l'endpoint di distribuzione invece che con il servizio condiviso. È utile per testare un endpoint distribuito direttamente dal browser. Consulta Inference per i dettagli sui parametri e i formati di risposta.

Endpoint API

Panoramica del monitoraggio

GET /api/monitoring

Restituisce metriche aggregate per tutte le distribuzioni possedute dall'utente autenticato. Supporta la consapevolezza dell'area di lavoro tramite il parametro di query opzionale owner.

Metriche di distribuzione

GET /api/deployments/{deploymentId}/metrics?sparkline=true&range=24h

Restituisce dati sparkline e metriche di riepilogo per una specifica distribuzione. Intervallo di aggiornamento: 60 secondi.

Log di distribuzione

GET /api/deployments/{deploymentId}/logs?limit=50&severity=ERROR,WARNING

Restituisce le voci di log recenti con filtro di gravità opzionale e paginazione.

Stato della distribuzione

GET /api/deployments/{deploymentId}/health

Restituisce lo stato del controllo di integrità con la latenza di risposta.

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Ottimizzazione delle Prestazioni

Usa i dati di monitoraggio per ottimizzare le tue distribuzioni:

FAQ

Per quanto tempo vengono conservati i dati?

Posso configurare un monitoraggio esterno?

Sì, gli URL degli endpoint funzionano con strumenti di monitoraggio esterni:

• Monitoraggio dei tempi di attività (Pingdom, UptimeRobot)
• Strumenti APM (Datadog, New Relic)
• Controlli di integrità personalizzati tramite l'endpoint /health

Quanto sono accurati i numeri sulla latenza?

Le metriche di latenza misurano:

• P50: tempo di risposta mediano
• P95: 95° percentile
• P99: 99° percentile

Questi rappresentano il tempo di elaborazione lato server, non includendo la latenza di rete verso i tuoi utenti.

Perché le mie metriche sono in ritardo?

Le metriche hanno un ritardo di ~2 minuti dovuto a:

• Pipeline di aggregazione delle metriche
• Finestre di aggregazione
• Caching della dashboard

Per il debug in tempo reale, controlla i log che sono quasi istantanei.

Posso monitorare più endpoint insieme?

Sì, la pagina delle distribuzioni mostra tutti gli endpoint con schede di riepilogo aggregate. Usa la vista tabella per confrontare le prestazioni tra le varie distribuzioni.