Überwachung#
Ultralytics Platform bietet Überwachung für bereitgestellte Endpunkte. Verfolge Anfragemetriken, sehe Protokolle ein und überprüfe den Integritätsstatus mit automatischem Polling.

Bereitstellungs-Dashboard#
Die Deploy-Seite in der Seitenleiste dient als Überwachungs-Dashboard für alle deine Bereitstellungen. Sie kombiniert die Weltkarte, Übersichtskennzahlen und das Bereitstellungsmanagement in einer Ansicht. Siehe Dedicated Endpoints zum Erstellen und Verwalten von Bereitstellungen.
graph TB
subgraph Dashboard
Map[World Map]:::proc --- Cards[Overview Cards]:::proc
Cards --- List[Deployments List]:::decide
end
subgraph "Per Deployment"
Metrics[Metrics Row]:::out
Health[Health Check]:::out
Logs[Logs Tab]:::out
Code[Code Tab]:::out
Predict[Predict Tab]:::out
end
List --> Metrics
List --> Health
List --> Logs
List --> Code
List --> Predict
classDef proc fill:#2196F3,color:#fff
classDef decide fill:#FF9800,color:#fff
classDef out fill:#9C27B0,color:#fffÜbersichtskarten#
Vier Zusammenfassungskarten oben auf der Seite zeigen:

| Metrik | Beschreibung |
|---|---|
| Gesamtanfragen (24h) | Anfragen über alle Endpunkte hinweg |
| Aktive Bereitstellungen | Aktuell laufende Endpunkte |
| Fehlerrate (24h) | Prozentsatz der fehlgeschlagenen Anfragen |
| P95 Latenz (24h) | Antwortzeit des 95. Perzentils |
Die Fehlerraten-Karte leuchtet rot auf, wenn die Rate 5 % überschreitet. Überprüfe den Logs-Tab bei einzelnen Bereitstellungen, um Fehler zu diagnostizieren.
Weltkarte#
Die interaktive Weltkarte zeigt:
- Regions-Pins für alle 42 verfügbaren Regionen
- Grüne Pins für bereitgestellte Regionen
- Animierte blaue Pins für Regionen mit laufenden Bereitstellungen
- Pin-Größe variiert je nach Bereitstellungsstatus und Latenz

Bereitstellungsliste#
Unter den Übersichtskarten zeigt die Bereitstellungsliste alle Endpunkte deiner Projekte. Nutze den Ansichtsmodus-Umschalter, um zwischen folgenden Optionen zu wechseln:
| Ansicht | Beschreibung |
|---|---|
| Karten | Vollständige Detailkarten mit Metriken, Logs, Code- und Predict-Tabs |
| Kompakt | Raster aus kleineren Karten (1-4 Spalten) mit Schlüsselmetriken |
| Tabelle | Datentabelle mit sortierbaren Spalten: Name, Region, Status, Anfragen, P95, Fehler |
Das Dashboard ruft alle 15 Sekunden Statusaktualisierungen für die Bereitstellung ab. Wenn sich Bereitstellungen in einem Übergangszustand (creating, deploying oder stopping) befinden, erhöht sich das Abrufen auf alle 3 Sekunden. Die Metriken pro Bereitstellung werden alle 60 Sekunden aktualisiert. Klicke auf die Schaltfläche zum Aktualisieren für sofortige Updates.
Metriken pro Bereitstellung#
Jede Bereitstellungskarte (in der Kartenansicht) zeigt Echtzeitmetriken:
Metrik-Zeile#
| Metrik | Beschreibung |
|---|---|
| Anfragen | Anfrageanzahl (24h) mit Icon |
| P95 Latenz | Antwortzeit des 95. Perzentils |
| Fehlerrate | Prozentsatz der fehlgeschlagenen Anfragen |
Metriken werden vom Sparkline-API-Endpunkt abgerufen und alle 60 Sekunden aktualisiert.
Gesundheitsprüfung#
Laufende Bereitstellungen zeigen einen Gesundheitscheck-Indikator:
| Indikator | Bedeutung |
|---|---|
| Grünes Herz | Gesund — zeigt Antwortlatenz |
| Rotes Herz | Ungesund — zeigt Fehlermeldung |
| Drehendes Icon | Gesundheitscheck läuft |
Gesundheitschecks wiederholen sich automatisch alle 20 Sekunden, wenn ein ungesunder Status vorliegt. Klicke auf das Aktualisierungs-Icon, um manuell einen Gesundheitscheck auszulösen. Der Gesundheitscheck nutzt ein 55-Sekunden-Timeout, um Kaltstarts bei Scale-to-Zero-Endpunkten zu berücksichtigen.

Die Integritätsprüfungsanfrage erlaubt bis zu 55 Sekunden, damit ein Endpunkt, der auf Null skaliert wurde, Zeit zum Starten hat.
Logs#
Jede Bereitstellungskarte enthält einen Logs-Tab zur Ansicht aktueller Log-Einträge:

Log-Einträge#
Jeder Log-Eintrag zeigt:
| Feld | Beschreibung |
|---|---|
| Schweregrad | Farbcodierter Balken (siehe unten) |
| Zeitstempel | Anfragezeit (lokales Format) |
| Nachricht | Log-Inhalt |
| HTTP-Info | Statuscode und Latenz (falls zutreffend) |
Filtere Logs nach Schweregrad mithilfe der Filter-Buttons:
| Ebene | Farbe | Beschreibung |
|---|---|---|
| DEBUG | Grau | Debug-Nachrichten |
| INFO | Blau | Normale Anfragen |
| WARNING | Gelb | Nicht-kritische Probleme |
| ERROR | Rot | Fehlgeschlagene Anfragen |
| CRITICAL | Dunkelrot | Kritische Fehler |
Die UI zeigt die 20 aktuellsten Einträge. Die API verwendet standardmäßig 50 Einträge pro Anfrage (maximal 200).
Bei der Untersuchung von Fehlern: Klicke zuerst auf Errors, um nach ERROR- und WARNING-Einträgen zu filtern, und prüfe dann die Zeitstempel sowie HTTP-Statuscodes. Kopiere die Logs in die Zwischenablage, um sie mit deinem Team zu teilen.
Code-Beispiele#
Jede Bereitstellungskarte enthält einen Code-Tab, der gebrauchsfertigen API-Code mit deiner tatsächlichen Endpunkt-URL und deinem API-Key anzeigt:
import requests
# Deployment endpoint
url = "https://predict-abc123.run.app/predict"
# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}
# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}
# Send image for inference
with open("image.jpg", "rb") as f:
response = requests.post(url, headers=headers, data=data, files={"file": f})
print(response.json())Wenn du den Code-Tab auf der Plattform aufrufst, werden deine tatsächliche Endpunkt-URL und dein API-Key automatisch eingetragen. Kopiere den Code und führe ihn direkt aus. Siehe API Keys, um einen Key zu generieren.
Deployment-Predict#
Der Predict-Tab auf jeder Deployment-Karte bietet ein Inline-Vorhersagepanel – dieselbe Schnittstelle wie der Predict-Tab des Modells, führt jedoch die Inferenz über den Deployment-Endpunkt anstatt über den gemeinsam genutzten Dienst aus. Dies ist nützlich, um einen bereitgestellten Endpunkt direkt vom Browser aus zu testen. Siehe Inference für Parameterdetails und Antwortformate.
API-Endpunkte#
Überblick über die Überwachung#
GET /api/monitoringGibt aggregierte Metriken für alle Deployments zurück, die dem authentifizierten Benutzer gehören. Arbeitsbereich-fähig über den optionalen owner-Abfrageparameter.
Deployment-Metriken#
GET /api/deployments/{deploymentId}/metrics?sparkline=true&range=24hGibt Sparkline-Daten und zusammenfassende Metriken für ein spezifisches Deployment zurück. Aktualisierungsintervall: 60 Sekunden.
| Parameter | Typ | Beschreibung |
|---|---|---|
sparkline | bool | Sparkline-Daten einschließen |
range | string | Zeitbereich: 1h, 6h, 24h, 7d oder 30d |
Deployment-Logs#
GET /api/deployments/{deploymentId}/logs?limit=50&severity=ERROR,WARNINGGibt aktuelle Log-Einträge mit optionalem Schweregradfilter und Paginierung zurück.
| Parameter | Typ | Beschreibung |
|---|---|---|
limit | int | Maximale Anzahl zurückzugebender Einträge (Standard: 50, Maximum: 200) |
severity | string | Kommagetrennter Schweregradfilter |
pageToken | string | Pagination-Token von der vorherigen Antwort |
Deployment-Status#
GET /api/deployments/{deploymentId}/healthGibt den Status der Gesundheitsprüfung mit Antwortlatenz zurück.
{
"healthy": true,
"status": 200,
"latencyMs": 142,
"serverTiming": { "db": 8, "ping": 142, "total": 150 }
}Leistungsoptimierung#
Verwende Überwachungsdaten, um deine Deployments zu optimieren:
Wenn die Latenz zu hoch ist:
- Überprüfe, ob die Modellgröße angemessen ist
- Erwäge eine nähere Region
- Überprüfe die mit jeder Anfrage gesendete Bildgröße
Probiere einen kleineren imgsz-Wert aus und vergleiche die resultierende Latenz und Genauigkeit für dein Modell. Deploye in eine Region, die näher an den Aufrufern liegt, um die Netzwerk-Latenz zu reduzieren.
FAQ#
Wie lange werden Daten aufbewahrt?#
Die Metriken-API unterstützt auswählbare Zeitfenster von 1 Stunde bis zu 30 Tagen. Die Bereitstellungskarte zeigt die 20 neuesten Protokolleinträge; die Protokoll-API kann bis zu 200 Einträge pro Anfrage zurückgeben und unterstützt Paginierung.
Kann ich mehrere Endpunkte zusammen überwachen?#
Ja, die Deployments-Seite zeigt alle Endpunkte mit aggregierten Übersichtskarten. Verwende die Tabellenansicht, um die Leistung über verschiedene Deployments hinweg zu vergleichen.