Bereitstellung

Ultralytics Platform bietet umfassende Bereitstellungsoptionen, um Ihre YOLO-Modelle in Produktion zu nehmen. Testen Sie Modelle mit browserbasierter Inferenz, stellen Sie sie auf dedizierten Endpunkten in 43 globalen Regionen bereit und überwachen Sie die Leistung in Echtzeit.

Ansehen: Erste Schritte mit Ultralytics – Bereitstellung

Überblick

Der Abschnitt Bereitstellung hilft Ihnen dabei:

• Test Modelle direkt im Browser mit dem Predict Registerkarte
• auf dedizierten Endpunkten in 43 globalen Regionen zu bereitzustellen
• Überwachen Sie Anforderungsmetriken, Protokolle und Integritätsprüfungen
• Im Leerlauf auf Null skalieren (derzeit werden Deployments mit einer einzigen aktiven Instanz ausgeführt)

Bereitstellungsoptionen

Ultralytics Platform bietet mehrere Bereitstellungspfade:

Workflow

graph LR
    A[✅ Test] --> B[⚙️ Configure]
    B --> C[🌐 Deploy]
    C --> D[📊 Monitor]

    style A fill:#4CAF50,color:#fff
    style B fill:#2196F3,color:#fff
    style C fill:#FF9800,color:#fff
    style D fill:#9C27B0,color:#fff

Architektur

Geteilte Inferenz

Der gemeinsam genutzte Inferenzdienst wird in drei wichtigen Regionen ausgeführt und leitet Anfragen automatisch basierend auf Ihrer Datenregion weiter:

graph TB
    User[User Request] --> API[Platform API]
    API --> Router{Region Router}
    Router -->|US users| US["US Predict Service<br/>Iowa"]
    Router -->|EU users| EU["EU Predict Service<br/>Belgium"]
    Router -->|AP users| AP["AP Predict Service<br/>Hong Kong"]

    style User fill:#f5f5f5,color:#333
    style API fill:#2196F3,color:#fff
    style Router fill:#FF9800,color:#fff
    style US fill:#4CAF50,color:#fff
    style EU fill:#4CAF50,color:#fff
    style AP fill:#4CAF50,color:#fff

Dedizierte Endpunkte

Bereitstellung in 43 Regionen weltweit in der Ultralytics Cloud:

• Amerika: 14 Regionen
• Europa: 13 Regionen
• Asien-Pazifik: 12 Regionen
• Naher Osten & Afrika: 4 Regionen

Jeder Endpunkt ist ein Single-Tenant-Dienst mit:

• Standardressourcen von 1 CPU, 2 GiB Erinnerung, minInstances=0, maxInstances=1
• Im Leerlauf auf Null skalieren
• Eindeutige Endpunkt-URL
• Unabhängige Überwachung, Protokolle und Zustandsprüfungen

Bereitstellungsseite

Greifen Sie über die Seitenleiste unter auf die globale Bereitstellungsseite zu Deploy. Diese Seite zeigt:

• Weltkarte mit Bereitstellungs-Region-Pins (interaktive Karte)
• Übersichtskarten: Gesamtanfragen (24h), Aktive Bereitstellungen, Fehlerrate (24h), P95 Latenz (24h)
• Bereitstellungsliste mit drei Ansichtsmodi: Karten, kompakt und Tabelle.
• Neue Bereitstellung-Schaltfläche zum Erstellen von Endpunkten aus jedem fertiggestellten Modell

Hauptmerkmale

Globale Abdeckung

Stellen Sie nahe bei Ihren Benutzern bereit, mit 43 Regionen, die abdecken:

• Nordamerika, Südamerika
• Europa, Mittlerer Osten, Afrika
• Asien-Pazifik, Ozeanien

Skalierungsverhalten

Endpunkte verhalten sich derzeit wie folgt:

• Skalierung auf Null: Keine Kosten im Leerlauf (Standard).
• Eine aktive Instanz: maxInstances ist derzeit begrenzt auf 1 bei allen Tarifen

Geringe Latenz

Dedizierte Endpunkte bieten:

• Kaltstart: ~5-15 Sekunden (zwischengespeicherter Container), bis zu ~45 Sekunden (erste Bereitstellung)
• Warme Inferenz: 50-200 ms (modellabhängig)
• Regionales Routing für optimale Leistung

Gesundheitschecks

Jede laufende Bereitstellung umfasst eine automatische Zustandsprüfung mit:

• Live-Statusanzeige (fehlerfrei/fehlerhaft)
• Anzeige der Reaktionslatenz
• Automatisches Wiederholen bei Fehlfunktion (Abfrage alle 20 Sekunden)
• Schaltfläche für manuelle Aktualisierung

Schnellstart

Ein Modell in weniger als 2 Minuten bereitstellen:

1. Ein Modell trainieren oder in ein Projekt hochladen
2. Gehen Sie zur Registerkarte „Bereitstellen“ des Modells.
3. Wählen Sie eine Region aus der Latenztabelle aus.
4. Klicken Sie auf Bereitstellen — Ihr Endpunkt ist live

Model → Deploy tab → Select region → Click Deploy → Endpoint URL ready

Schnellzugriffe

• Inferenz: Modelle im Browser testen
• Endpunkte: Dedizierte Endpunkte bereitstellen
• Monitoring: Tracken Sie die Bereitstellungs-Performance

FAQ

Was ist der Unterschied zwischen geteilter und dedizierter Inferenz?

Wie lange dauert die Bereitstellung?

Die Bereitstellung dedizierter Endpunkte dauert in der Regel 1-2 Minuten:

1. Image-Pull (~30s)
2. Container-Start (~30s)
3. Zustandsprüfung (~30s)

Kann ich mehrere Modelle bereitstellen?

Ja, jedes Modell kann mehrere Endpunkte in verschiedenen Regionen haben. Die Anzahl der Bereitstellungen ist je nach Tarif begrenzt: Kostenlos 3, Pro 10, Unternehmen unlimited.

Was passiert, wenn ein Endpunkt im Leerlauf ist?

Mit aktivierter Skalierung auf Null:

• Endpunkt skaliert nach Inaktivität herunter
• Erste Anfrage löst Kaltstart aus
• Nachfolgende Anfragen sind schnell

Die ersten Anfragen nach einer Leerlaufphase lösen einen Kaltstart aus.

📅 Erstellt vor 2 Monaten ✏️ Aktualisiert vor 0 Tagen

Kommentare