Bereitstellung

Ultralytics Platform bietet umfassende Bereitstellungsoptionen, um Ihre YOLO-Modelle in Produktion zu nehmen. Testen Sie Modelle mit browserbasierter Inferenz, stellen Sie sie auf dedizierten Endpunkten in 43 globalen Regionen bereit und überwachen Sie die Leistung in Echtzeit.

Ansehen: Erste Schritte mit Ultralytics – Bereitstellung

Überblick

Der Abschnitt Bereitstellung hilft Ihnen dabei:

• Test Modelle direkt im Browser mit dem Predict Registerkarte
• auf dedizierten Endpunkten in 43 globalen Regionen zu bereitzustellen
• Überwachen Sie Anforderungsmetriken, Protokolle und Integritätsprüfungen
• Skalierung automatisch mit dem Traffic (einschließlich Skalierung auf Null).

Bereitstellungsoptionen

Ultralytics Platform bietet mehrere Bereitstellungspfade:

Workflow

graph LR
    A[✅ Test] --> B[⚙️ Configure]
    B --> C[🌐 Deploy]
    C --> D[📊 Monitor]

    style A fill:#4CAF50,color:#fff
    style B fill:#2196F3,color:#fff
    style C fill:#FF9800,color:#fff
    style D fill:#9C27B0,color:#fff

Architektur

Geteilte Inferenz

Der gemeinsam genutzte Inferenzdienst wird in drei wichtigen Regionen ausgeführt und leitet Anfragen automatisch basierend auf Ihrer Datenregion weiter:

graph TB
    User[User Request] --> API[Platform API]
    API --> Router{Region Router}
    Router -->|US users| US["US Predict Service<br/>Iowa"]
    Router -->|EU users| EU["EU Predict Service<br/>Belgium"]
    Router -->|AP users| AP["AP Predict Service<br/>Hong Kong"]

    style User fill:#f5f5f5,color:#333
    style API fill:#2196F3,color:#fff
    style Router fill:#FF9800,color:#fff
    style US fill:#4CAF50,color:#fff
    style EU fill:#4CAF50,color:#fff
    style AP fill:#4CAF50,color:#fff

Dedizierte Endpunkte

Bereitstellung in 43 Regionen weltweit in der Ultralytics Cloud:

• Amerika: 14 Regionen
• Europa: 13 Regionen
• Asien-Pazifik: 12 Regionen
• Naher Osten & Afrika: 4 Regionen

Jeder Endpunkt ist ein Single-Tenant-Dienst mit:

• Dedizierte Rechenressourcen (konfigurierbare CPU und Arbeitsspeicher)
• Automatische Skalierung (Skalierung auf Null im Leerlauf)
• Eindeutige Endpunkt-URL
• Unabhängige Überwachung, Protokolle und Zustandsprüfungen

Bereitstellungsseite

Greifen Sie über die Seitenleiste unter auf die globale Bereitstellungsseite zu Deploy. Diese Seite zeigt:

• Weltkarte mit Bereitstellungs-Region-Pins (interaktive Karte)
• Übersichtskarten: Gesamtanfragen (24h), Aktive Bereitstellungen, Fehlerrate (24h), P95 Latenz (24h)
• Bereitstellungsliste mit drei Ansichtsmodi: Karten, kompakt und Tabelle.
• Neue Bereitstellung-Schaltfläche zum Erstellen von Endpunkten aus jedem fertiggestellten Modell

Hauptmerkmale

Globale Abdeckung

Stellen Sie nahe bei Ihren Benutzern bereit, mit 43 Regionen, die abdecken:

• Nordamerika, Südamerika
• Europa, Mittlerer Osten, Afrika
• Asien-Pazifik, Ozeanien

Auto-Skalierung

Endpunkte skalieren automatisch:

• Skalierung auf Null: Keine Kosten im Leerlauf (Standard).
• Hochskalieren: Automatische Bewältigung von Verkehrsspitzen.

Geringe Latenz

Dedizierte Endpunkte bieten:

• Kaltstart: ~5-15 Sekunden (zwischengespeicherter Container), bis zu ~45 Sekunden (erste Bereitstellung)
• Warme Inferenz: 50-200 ms (modellabhängig)
• Regionales Routing für optimale Leistung

Gesundheitschecks

Jede laufende Bereitstellung umfasst eine automatische Zustandsprüfung mit:

• Live-Statusanzeige (fehlerfrei/fehlerhaft)
• Anzeige der Reaktionslatenz
• Automatisches Wiederholen bei Fehlfunktion (Abfrage alle 20 Sekunden)
• Schaltfläche für manuelle Aktualisierung

Schnellstart

Ein Modell in weniger als 2 Minuten bereitstellen:

1. Ein Modell trainieren oder in ein Projekt hochladen
2. Gehen Sie zur Registerkarte „Bereitstellen“ des Modells.
3. Wählen Sie eine Region aus der Latenztabelle aus.
4. Klicken Sie auf Bereitstellen — Ihr Endpunkt ist live

Model → Deploy tab → Select region → Click Deploy → Endpoint URL ready

Schnellzugriffe

• Inferenz: Modelle im Browser testen
• Endpunkte: Dedizierte Endpunkte bereitstellen
• Monitoring: Tracken Sie die Bereitstellungs-Performance

FAQ

Was ist der Unterschied zwischen geteilter und dedizierter Inferenz?

Wie lange dauert die Bereitstellung?

Die Bereitstellung dedizierter Endpunkte dauert in der Regel 1-2 Minuten:

1. Image-Pull (~30s)
2. Container-Start (~30s)
3. Zustandsprüfung (~30s)

Kann ich mehrere Modelle bereitstellen?

Ja, jedes Modell kann mehrere Endpunkte in verschiedenen Regionen haben. Es gibt keine Begrenzung der Gesamtzahl der Endpunkte (abhängig von Ihrem Plan).

Was passiert, wenn ein Endpunkt im Leerlauf ist?

Mit aktivierter Skalierung auf Null:

• Endpunkt skaliert nach Inaktivität herunter
• Erste Anfrage löst Kaltstart aus
• Nachfolgende Anfragen sind schnell

Die ersten Anfragen nach einer Leerlaufphase lösen einen Kaltstart aus.

📅 Erstellt vor 2 Monaten ✏️ Aktualisiert vor 10 Tagen

Kommentare