YOLO Vision 2026:

Überwachung#

Ultralytics Platform bietet Überwachung für bereitgestellte Endpunkte. Verfolge Anfragemetriken, sehe Protokolle ein und überprüfe den Integritätsstatus mit automatischem Polling.

Ultralytics Platform Deploy Page Overview Cards And World Map

Bereitstellungs-Dashboard#

Die Deploy-Seite in der Seitenleiste dient als Überwachungs-Dashboard für alle deine Bereitstellungen. Sie kombiniert die Weltkarte, Übersichtskennzahlen und das Bereitstellungsmanagement in einer Ansicht. Siehe Dedicated Endpoints zum Erstellen und Verwalten von Bereitstellungen.

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Deployment"
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Übersichtskarten#

Vier Zusammenfassungskarten oben auf der Seite zeigen:

Ultralytics Platform Deploy Page Four Overview Cards

MetrikBeschreibung
Gesamtanfragen (24h)Anfragen über alle Endpunkte hinweg
Aktive BereitstellungenAktuell laufende Endpunkte
Fehlerrate (24h)Prozentsatz der fehlgeschlagenen Anfragen
P95 Latenz (24h)Antwortzeit des 95. Perzentils
Fehlerraten-Warnung

Die Fehlerraten-Karte leuchtet rot auf, wenn die Rate 5 % überschreitet. Überprüfe den Logs-Tab bei einzelnen Bereitstellungen, um Fehler zu diagnostizieren.

Weltkarte#

Die interaktive Weltkarte zeigt:

  • Regions-Pins für alle 42 verfügbaren Regionen
  • Grüne Pins für bereitgestellte Regionen
  • Animierte blaue Pins für Regionen mit laufenden Bereitstellungen
  • Pin-Größe variiert je nach Bereitstellungsstatus und Latenz

Ultralytics Platform Deploy Page World Map With Deployed Regions

Bereitstellungsliste#

Unter den Übersichtskarten zeigt die Bereitstellungsliste alle Endpunkte deiner Projekte. Nutze den Ansichtsmodus-Umschalter, um zwischen folgenden Optionen zu wechseln:

AnsichtBeschreibung
KartenVollständige Detailkarten mit Metriken, Logs, Code- und Predict-Tabs
KompaktRaster aus kleineren Karten (1-4 Spalten) mit Schlüsselmetriken
TabelleDatentabelle mit sortierbaren Spalten: Name, Region, Status, Anfragen, P95, Fehler
Echtzeit-Updates

Das Dashboard ruft alle 15 Sekunden Statusaktualisierungen für die Bereitstellung ab. Wenn sich Bereitstellungen in einem Übergangszustand (creating, deploying oder stopping) befinden, erhöht sich das Abrufen auf alle 3 Sekunden. Die Metriken pro Bereitstellung werden alle 60 Sekunden aktualisiert. Klicke auf die Schaltfläche zum Aktualisieren für sofortige Updates.

Metriken pro Bereitstellung#

Jede Bereitstellungskarte (in der Kartenansicht) zeigt Echtzeitmetriken:

Metrik-Zeile#

MetrikBeschreibung
AnfragenAnfrageanzahl (24h) mit Icon
P95 LatenzAntwortzeit des 95. Perzentils
FehlerrateProzentsatz der fehlgeschlagenen Anfragen

Metriken werden vom Sparkline-API-Endpunkt abgerufen und alle 60 Sekunden aktualisiert.

Gesundheitsprüfung#

Laufende Bereitstellungen zeigen einen Gesundheitscheck-Indikator:

IndikatorBedeutung
Grünes HerzGesund — zeigt Antwortlatenz
Rotes HerzUngesund — zeigt Fehlermeldung
Drehendes IconGesundheitscheck läuft

Gesundheitschecks wiederholen sich automatisch alle 20 Sekunden, wenn ein ungesunder Status vorliegt. Klicke auf das Aktualisierungs-Icon, um manuell einen Gesundheitscheck auszulösen. Der Gesundheitscheck nutzt ein 55-Sekunden-Timeout, um Kaltstarts bei Scale-to-Zero-Endpunkten zu berücksichtigen.

Ultralytics Platform Deployment Card Health Check Healthy With Latency

Kaltstart-Toleranz

Die Integritätsprüfungsanfrage erlaubt bis zu 55 Sekunden, damit ein Endpunkt, der auf Null skaliert wurde, Zeit zum Starten hat.

Logs#

Jede Bereitstellungskarte enthält einen Logs-Tab zur Ansicht aktueller Log-Einträge:

Ultralytics Platform Deployment Card Logs Tab With Severity Filter

Log-Einträge#

Jeder Log-Eintrag zeigt:

FeldBeschreibung
SchweregradFarbcodierter Balken (siehe unten)
ZeitstempelAnfragezeit (lokales Format)
NachrichtLog-Inhalt
HTTP-InfoStatuscode und Latenz (falls zutreffend)

Filtere Logs nach Schweregrad mithilfe der Filter-Buttons:

EbeneFarbeBeschreibung
DEBUGGrauDebug-Nachrichten
INFOBlauNormale Anfragen
WARNINGGelbNicht-kritische Probleme
ERRORRotFehlgeschlagene Anfragen
CRITICALDunkelrotKritische Fehler

Die UI zeigt die 20 aktuellsten Einträge. Die API verwendet standardmäßig 50 Einträge pro Anfrage (maximal 200).

Debugging-Workflow

Bei der Untersuchung von Fehlern: Klicke zuerst auf Errors, um nach ERROR- und WARNING-Einträgen zu filtern, und prüfe dann die Zeitstempel sowie HTTP-Statuscodes. Kopiere die Logs in die Zwischenablage, um sie mit deinem Team zu teilen.

Code-Beispiele#

Jede Bereitstellungskarte enthält einen Code-Tab, der gebrauchsfertigen API-Code mit deiner tatsächlichen Endpunkt-URL und deinem API-Key anzeigt:

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())
Automatisch ausgefüllte Anmeldedaten

Wenn du den Code-Tab auf der Plattform aufrufst, werden deine tatsächliche Endpunkt-URL und dein API-Key automatisch eingetragen. Kopiere den Code und führe ihn direkt aus. Siehe API Keys, um einen Key zu generieren.

Deployment-Predict#

Der Predict-Tab auf jeder Deployment-Karte bietet ein Inline-Vorhersagepanel – dieselbe Schnittstelle wie der Predict-Tab des Modells, führt jedoch die Inferenz über den Deployment-Endpunkt anstatt über den gemeinsam genutzten Dienst aus. Dies ist nützlich, um einen bereitgestellten Endpunkt direkt vom Browser aus zu testen. Siehe Inference für Parameterdetails und Antwortformate.

API-Endpunkte#

Überblick über die Überwachung#

GET /api/monitoring

Gibt aggregierte Metriken für alle Deployments zurück, die dem authentifizierten Benutzer gehören. Arbeitsbereich-fähig über den optionalen owner-Abfrageparameter.

Deployment-Metriken#

GET /api/deployments/{deploymentId}/metrics?sparkline=true&range=24h

Gibt Sparkline-Daten und zusammenfassende Metriken für ein spezifisches Deployment zurück. Aktualisierungsintervall: 60 Sekunden.

ParameterTypBeschreibung
sparklineboolSparkline-Daten einschließen
rangestringZeitbereich: 1h, 6h, 24h, 7d oder 30d

Deployment-Logs#

GET /api/deployments/{deploymentId}/logs?limit=50&severity=ERROR,WARNING

Gibt aktuelle Log-Einträge mit optionalem Schweregradfilter und Paginierung zurück.

ParameterTypBeschreibung
limitintMaximale Anzahl zurückzugebender Einträge (Standard: 50, Maximum: 200)
severitystringKommagetrennter Schweregradfilter
pageTokenstringPagination-Token von der vorherigen Antwort

Deployment-Status#

GET /api/deployments/{deploymentId}/health

Gibt den Status der Gesundheitsprüfung mit Antwortlatenz zurück.

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142,
    "serverTiming": { "db": 8, "ping": 142, "total": 150 }
}

Leistungsoptimierung#

Verwende Überwachungsdaten, um deine Deployments zu optimieren:

Wenn die Latenz zu hoch ist:

  1. Überprüfe, ob die Modellgröße angemessen ist
  2. Erwäge eine nähere Region
  3. Überprüfe die mit jeder Anfrage gesendete Bildgröße
Latenz reduzieren

Probiere einen kleineren imgsz-Wert aus und vergleiche die resultierende Latenz und Genauigkeit für dein Modell. Deploye in eine Region, die näher an den Aufrufern liegt, um die Netzwerk-Latenz zu reduzieren.

FAQ#

Wie lange werden Daten aufbewahrt?#

Die Metriken-API unterstützt auswählbare Zeitfenster von 1 Stunde bis zu 30 Tagen. Die Bereitstellungskarte zeigt die 20 neuesten Protokolleinträge; die Protokoll-API kann bis zu 200 Einträge pro Anfrage zurückgeben und unterstützt Paginierung.

Kann ich mehrere Endpunkte zusammen überwachen?#

Ja, die Deployments-Seite zeigt alle Endpunkte mit aggregierten Übersichtskarten. Verwende die Tabellenansicht, um die Leistung über verschiedene Deployments hinweg zu vergleichen.

Kommentare