Überwachung

Die Ultralytics Platform bietet eine Überwachung für bereitgestellte Endpunkte. Verfolge Anfragemetriken, sieh dir Protokolle an und prüfe den Gesundheitsstatus durch automatische Abfragen.

Dashboard für Bereitstellungen

Die Seite Deploy in der Seitenleiste dient als Überwachungs-Dashboard für alle deine Bereitstellungen. Sie kombiniert eine Weltkarte, Übersichtskennzahlen und die Bereitstellungsverwaltung in einer Ansicht. Siehe Dedicated Endpoints für das Erstellen und Verwalten von Bereitstellungen.

graph TB
    subgraph Dashboard
        Map[World Map] --- Cards[Overview Cards]
        Cards --- List[Deployments List]
    end
    subgraph "Per Deployment"
        Metrics[Metrics Row]
        Health[Health Check]
        Logs[Logs Tab]
        Code[Code Tab]
        Predict[Predict Tab]
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    style Dashboard fill:#f5f5f5,color:#333
    style Map fill:#2196F3,color:#fff
    style Cards fill:#FF9800,color:#fff
    style List fill:#4CAF50,color:#fff

Übersichtskarten

Vier Zusammenfassungskarten am oberen Seitenrand zeigen:

Weltkarte

Die interaktive Weltkarte zeigt:

• Regions-Pins für alle 43 verfügbaren Regionen
• Grüne Pins für bereitgestellte Regionen
• Animierte blaue Pins für Regionen mit laufenden Bereitstellungsvorgängen
• Pin-Größe variiert basierend auf Bereitstellungsstatus und Latenz

Bereitstellungsliste

Unter den Übersichtskarten zeigt die Bereitstellungsliste alle Endpunkte deiner Projekte an. Nutze den Ansichtsmodus-Umschalter, um zwischen folgenden Optionen zu wechseln:

Metriken pro Bereitstellung

Jede Bereitstellungskarte (in der Kartenansicht) zeigt Echtzeit-Metriken:

Metrikzeile

Metriken werden über den Sparkline-API-Endpunkt abgerufen und alle 60 Sekunden aktualisiert.

Health Check

Laufende Bereitstellungen zeigen einen Indikator für die Gesundheitsprüfung:

Gesundheitsprüfungen werden bei einem ungesunden Status alle 20 Sekunden automatisch wiederholt. Klicke auf das Aktualisierungssymbol, um manuell eine Gesundheitsprüfung auszulösen. Die Gesundheitsprüfung nutzt ein 55-Sekunden-Timeout, um Kaltstarts bei Scale-to-Zero-Endpunkten zu berücksichtigen.

Protokolle

Jede Bereitstellungskarte enthält einen Logs-Tab zur Anzeige aktueller Protokolleinträge:

Protokolleinträge

Jeder Protokolleintrag zeigt:

Die UI zeigt die 20 aktuellsten Einträge. Die API standardisiert auf 50 Einträge pro Anfrage (maximal 200).

Code-Beispiele

Jede Bereitstellungskarte enthält einen Code-Tab, der gebrauchsfertigen API-Code mit deiner tatsächlichen Endpunkt-URL und deinem API-Schlüssel anzeigt:

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Deployment Predict

Der Predict-Tab auf jeder Deployment-Karte bietet ein Inline-Predict-Panel – dieselbe Schnittstelle wie der Predict-Tab des Modells, jedoch wird die Inferenz über den Deployment-Endpunkt statt über den gemeinsam genutzten Dienst ausgeführt. Dies ist nützlich, um einen bereitgestellten Endpunkt direkt aus dem Browser zu testen. Siehe Inference für Parameterdetails und Antwortformate.

API-Endpunkte

Überblick über das Monitoring

GET /api/monitoring

Gibt aggregierte Metriken für alle Deployments zurück, die dem authentifizierten Benutzer gehören. Workspace-bewusst über den optionalen owner-Abfrageparameter.

Deployment-Metriken

GET /api/deployments/{deploymentId}/metrics?sparkline=true&range=24h

Gibt Sparkline-Daten und zusammenfassende Metriken für ein bestimmtes Deployment zurück. Aktualisierungsintervall: 60 Sekunden.

Deployment-Logs

GET /api/deployments/{deploymentId}/logs?limit=50&severity=ERROR,WARNING

Gibt kürzliche Log-Einträge mit optionalem Schweregradfilter und Paginierung zurück.

Deployment-Gesundheit

GET /api/deployments/{deploymentId}/health

Gibt den Status der Gesundheitsprüfung mit Antwortlatenz zurück.

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Leistungsoptimierung

Nutze Monitoring-Daten, um deine Deployments zu optimieren:

FAQ

Wie lange werden Daten aufbewahrt?

Kann ich ein externes Monitoring einrichten?

Ja, Endpunkt-URLs funktionieren mit externen Monitoring-Tools:

• Uptime-Monitoring (Pingdom, UptimeRobot)
• APM-Tools (Datadog, New Relic)
• Benutzerdefinierte Gesundheitsprüfungen über den /health-Endpunkt

Wie genau sind die Latenzwerte?

Latenzmetriken messen:

• P50: Median-Antwortzeit
• P95: 95. Perzentil
• P99: 99. Perzentil

Diese stellen die serverseitige Verarbeitungszeit dar, ohne die Netzwerklatenz zu deinen Benutzern.

Warum sind meine Metriken verzögert?

Metriken haben eine Verzögerung von ca. 2 Minuten aufgrund von:

• Metriken-Aggregations-Pipeline
• Aggregationsfenstern
• Dashboard-Caching

Für Echtzeit-Debugging überprüfe die Logs, welche nahezu sofort verfügbar sind.

Kann ich mehrere Endpunkte zusammen überwachen?

Ja, die Deployments-Seite zeigt alle Endpunkte mit aggregierten Übersichtskarten. Nutze die Tabellenansicht, um die Leistung über verschiedene Deployments hinweg zu vergleichen.