Überwachung#

Ultralytics Platform bietet Überwachung für bereitgestellte Endpunkte. Verfolge Anfragemetriken, zeige Protokolle an und prüfe den Integritätsstatus mit automatischem Polling.

Bereitstellungs-Dashboard#

Die Seite Deploy in der Seitenleiste dient als Überwachungs-Dashboard für all deine Deployments. Sie kombiniert die Weltkarte, Übersichtskennzahlen und die Deployment-Verwaltung in einer Ansicht. Siehe Dedicated Endpoints zum Erstellen und Verwalten von Deployments.

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Deployment"
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Übersichtskarten#

Vier Zusammenfassungskarten oben auf der Seite zeigen:

Es wird das P95 anstelle der medianen Latenz berichtet, da Integritätsprüfungen in wenigen Millisekunden antworten und das Bild der echten Inferenzlatenz sonst dominieren würden.

Weltkarte#

Die interaktive Weltkarte zeigt:

• Regions-Pins für alle 42 verfügbaren Regionen
• Grüne Pins für Regionen mit einer bereiten Bereitstellung
• Animierte blaue Pins für Regionen mit laufenden Bereitstellungen
• Pin-Größe variiert je nach Bereitstellungsstatus und Latenz

Klicke auf eine beliebige Region, um den Dialog New Deployment zu öffnen. Die Karte ist auf kleinen Bildschirmen ausgeblendet.

Bereitstellungsliste#

Unter den Übersichtskarten zeigt die Bereitstellungsliste alle Endpunkte deiner Projekte. Nutze den Ansichtsmodus-Umschalter, um zwischen folgenden Optionen zu wechseln:

Metriken pro Bereitstellung#

Jede Bereitstellungskarte (in der Kartenansicht) zeigt Echtzeitmetriken:

Metrik-Zeile#

Metriken werden automatisch aktualisiert. Endpunkte, die noch keine Anfrage beantwortet haben, zeigen „No traffic yet“ an, und Metriken werden nur für Bereitstellungen im Zustand Ready erfasst. Auf dem Bereitstellungs-Dashboard werden Metriken für die 20 neuesten Bereitstellungen abgerufen.

Gesundheitsprüfung#

Laufende Bereitstellungen zeigen einen Gesundheitscheck-Indikator:

Integritätsprüfungen versuchen automatisch erneut, wenn sie fehlerhaft sind, und stoppen, sobald der Endpunkt antwortet. Klicke auf das Aktualisierungssymbol, um manuell eine Integritätsprüfung auszulösen, was gleichzeitig eine Möglichkeit ist, einen auf Null skalierten Endpunkt vor dem Senden von Datenverkehr aufzuwärmen.

Logs#

Jede Deployment-Karte enthält eine Registerkarte Logs zum Anzeigen neuerer Protokolleinträge:

Log-Einträge#

Jeder Log-Eintrag zeigt:

Die Benutzeroberfläche zeigt die 20 neuesten Einträge an und blendet leere aus. Die API verwendet standardmäßig 50 Einträge pro Anfrage (max. 200) und gibt ein nextPageToken für weiteres Blättern zurück.

Code-Beispiele#

Jede Bereitstellungskarte enthält einen Code-Tab, der einsatzbereiten API-Code mit eingetragener Endpunkt-URL anzeigt. Für Workspace-Inhaber ist der an die Bereitstellung gebundene API-Schlüssel eingefügt, bereit zum Kopieren und Ausführen. Andere Benutzer sehen einen YOUR_API_KEY-Platzhalter:

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Deployment-Predict#

Die Registerkarte Predict auf jeder Deployment-Karte bietet ein integriertes Vorhersage-Panel — dieselbe Benutzeroberfläche wie die Registerkarte Predict des Modells, führt die Inferenz jedoch über den Deployment-Endpunkt anstelle des gemeinsamen Dienstes aus. Dies ist nützlich, um einen bereitgestellten Endpunkt direkt aus dem Browser zu testen. Siehe Inference für Parameterdetails und Antwortformate.

API-Endpunkte#

Jede Bereitstellung wird über ihren Inhaber und den Bereitstellungsnamen angesprochen, und jede Route erfordert einen API-Schlüssel. Siehe die API reference für Authentifizierungsdetails.

Deployment-Metriken#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

Gibt die vollständige Metriknutzlast für eine Bereitstellung zurück: einen summary-Block mit Gesamtanfragen, Fehleranzahl und -rate sowie durchschnittlicher, P50-, P95- und P99-Latenz plus timeSeries-Arrays für Anfragen, Fehler, P50- und P95-Latenz, CPU- und Speicherauslastung sowie Instanzanzahl.

Mit sparkline=true ist die Antwort die kompakte Form, die von den Bereitstellungskarten verwendet wird – 24 stündliche Anfrageanzahlen plus Gesamtanfragen, Fehlerrate und durchschnittliche Latenz. Dies ist der Aufruf, der alle 60 Sekunden aktualisiert wird.

Deployment-Logs#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

Gibt aktuelle Log-Einträge mit optionalem Schweregradfilter und Paginierung zurück.

Deployment-Status#

GET /api/deployments/{owner}/{deployment}/health

Pingt die Bereitstellung an und gibt ihren Integritätsstatus mit der gemessenen Roundtrip-Latenz zurück:

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Eine fehlerhafte Antwort lässt status weg, wenn der Endpunkt überhaupt nicht erreichbar war, und fügt eine error-Nachricht hinzu.

Leistungsoptimierung#

Verwende Überwachungsdaten, um deine Deployments zu optimieren:

FAQ#