Monitoraggio#

Ultralytics Platform offre il monitoraggio per gli endpoint distribuiti. Traccia le metriche delle richieste, visualizza i log e controlla lo stato di salute con il polling automatico.

Dashboard delle distribuzioni#

La pagina Deploy nella barra laterale funge da dashboard di monitoraggio per tutte le tue distribuzioni. Combina la mappa del mondo, le metriche panoramica e la gestione delle distribuzioni in un'unica vista. Consulta Endpoint dedicati per la creazione e la gestione delle distribuzioni.

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Deployment"
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Schede di panoramica#

Quattro schede di riepilogo nella parte superiore della pagina mostrano:

Viene riportato il P95 anziché la latenza mediana poiché i controlli di integrità rispondono in un paio di millisecondi e altrimenti dominerebbero il quadro della reale latenza di inferenza.

Mappa del mondo#

La mappa interattiva del mondo mostra:

• Pin della regione per tutte le 42 regioni disponibili
• Pin verdi per le aree geografiche con un deployment pronto
• Pin blu animati per le regioni con distribuzioni attive in corso
• La dimensione dei pin varia in base allo stato della distribuzione e alla latenza

Clicca su qualsiasi regione per aprire la finestra di dialogo New Deployment. La mappa è nascosta sugli schermi piccoli.

Elenco delle distribuzioni#

Sotto le schede di panoramica, l'elenco delle distribuzioni mostra tutti gli endpoint nei tuoi progetti. Usa il selettore della modalità di visualizzazione per passare tra:

Metriche per singola distribuzione#

Ogni scheda di distribuzione (nella vista schede) mostra metriche in tempo reale:

Riga delle metriche#

Le metriche si aggiornano automaticamente. Gli endpoint che non hanno servito alcuna richiesta mostrano "No traffic yet", e le metriche vengono raccolte solo per i deployment nello stato Ready. Sulla dashboard dei deployment, le metriche vengono recuperate per i 20 deployment più recenti.

Controllo Integrità#

Le distribuzioni in esecuzione mostrano un indicatore di controllo della salute:

I controlli di integrità riprovano automaticamente in caso di malfunzionamento e si interrompono non appena l'endpoint risponde. Clicca sull'icona di aggiornamento per attivare manualmente un controllo di integrità, che funge anche da metodo per riscaldare un endpoint ridotto a zero prima di inviare traffico.

Log#

Ogni scheda di distribuzione include una scheda Logs per la visualizzazione delle voci di log recenti:

Voci di log#

Ogni voce di log mostra:

L'interfaccia utente mostra le 20 voci più recenti e nasconde quelle vuote. L'API prevede un valore predefinito di 50 voci per richiesta (massimo 200) e restituisce un nextPageToken per la paginazione all'indietro.

Esempi di codice#

Ogni scheda di deployment include una scheda Code che mostra il codice API pronto all'uso con l'URL dell'endpoint compilato. Per i proprietari del workspace, viene inserita la chiave API associata al deployment, pronta per essere copiata ed eseguita. I non proprietari visualizzano un placeholder YOUR_API_KEY:

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Previsione su deployment#

La scheda Predict su ciascuna scheda di distribuzione fornisce un pannello di predizione in linea — la stessa interfaccia della scheda Predict del modello, ma eseguendo l'inferenza tramite l'endpoint di distribuzione anziché il servizio condiviso. Questo è utile per testare un endpoint distribuito direttamente dal browser. Consulta Inferenza per i dettagli sui parametri e i formati di risposta.

Endpoint API#

Ogni deployment viene identificato dal proprietario e dal nome del deployment, e ogni rotta richiede una chiave API. Consulta la riferimento API per i dettagli sull'autenticazione.

Metriche di deployment#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

Restituisce il payload completo delle metriche per un deployment: un blocco summary con richieste totali, conteggio e tasso di errori, e latenza media, P50, P95 e P99, oltre agli array timeSeries per richieste, errori, latenza P50 e P95, utilizzo di CPU e memoria e conteggio delle istanze.

Con sparkline=true, la risposta corrisponde al formato compatto utilizzato dalle schede dei deployment: 24 conteggi di richieste orarie più richieste totali, tasso di errori e latenza media. Questa è la chiamata che si aggiorna ogni 60 secondi.

Log di deployment#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

Restituisce voci di log recenti con filtro di gravità opzionale e impaginazione.

Stato di salute del deployment#

GET /api/deployments/{owner}/{deployment}/health

Esegue il ping del deployment e restituisce il suo stato di integrità con la latenza di round-trip misurata:

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Una risposta di non integrità omette status quando non è stato possibile raggiungere l'endpoint e aggiunge un messaggio error.

Ottimizzazione delle prestazioni#

Usa i dati di monitoraggio per ottimizzare i tuoi deployment:

FAQ#