Dedizierte Endpunkte

Ultralytics Platform ermöglicht die Bereitstellung von YOLO-Modellen auf dedizierten Endpunkten in 43 globalen Regionen. Jeder Endpunkt ist ein Single-Tenant-Dienst mit Auto-Scaling, einer einzigartigen Endpunkt-URL und unabhängigem Monitoring.

Endpunkt erstellen

Aus der Registerkarte „Bereitstellen“

Ein Modell bereitstellen von seinem Deploy Registerkarte:

1. Navigieren Sie zu Ihrem Modell
2. Klicken Sie auf den Tab Bereitstellen
3. Select a region from the interactive world map — regions are color-coded by latency from your location (green < 100ms, yellow < 200ms, red > 200ms)
4. Klicken Sie auf Bereitstellen in der Zeile der Region

Der Name der Bereitstellung wird automatisch aus dem Modellnamen und der Region (z. B. yolo26n-iowa), oder Auto-Modus mit angegebener Auslastungsfraktion (

Von der Seite „Bereitstellungen“

Erstellen Sie eine Bereitstellung aus dem globalen Deploy Seite in der Seitenleiste:

1. Klicken Sie auf Neue Bereitstellung
2. Wählen Sie ein Modell aus dem Modellauswahlmenü aus.
3. Wählen Sie eine Region aus der Karte oder Tabelle aus.
4. Optional können Sie den Bereitstellungsnamen und die Ressourcen anpassen.
5. Klicken Sie auf Modell bereitstellen

Bereitstellungslebenszyklus

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Container starting
    Deploying --> Ready: Health check passed
    Ready --> Stopping: Stop
    Stopping --> Stopped: Stopped
    Stopped --> Ready: Start
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

Regionsauswahl

Wählen Sie aus 43 Regionen weltweit. Die interaktive Regionskarte und -tabelle zeigen:

• Region pins: Color-coded by latency (green < 100ms, yellow < 200ms, red > 200ms)
• Bereitgestellte Regionen: Hervorgehoben mit einem „Deployed“-Badge.
• Regionen werden bereitgestellt: Animierte Pulsanzeige.
• Bidirektionale Hervorhebung: Beim Überfahren der Karte wird die Tabellenzeile hervorgehoben und umgekehrt

Die Regionstabelle im Modell Deploy Die Registerkarte enthält:

Verfügbare Regionen

Endpunkt-Konfiguration

Neuer Bereitstellungsdialog

Die New Deployment Dialog bietet:

Die Ressourceneinstellungen sind im ausklappbaren Abschnitt „Ressourcen“ verfügbar. Bei Bereitstellungen wird standardmäßig „Scale-to-Zero“ verwendet (min. Instanzen = 0, max. Instanzen = 1) – Sie zahlen nur für die aktive Inferenzzeit.

Registerkarte „Bereitstellen“ (Schnellbereitstellung)

Beim Bereitstellen aus dem Modell Deploy Auf der Registerkarte „Endpunkte“ werden Endpunkte mit Standardressourcen (1 CPU, 2 GB Arbeitsspeicher) und aktivierter Skalierung auf Null erstellt. Der Name der Bereitstellung wird automatisch generiert.

Endpunkte verwalten

Anzeigemodi

Die Bereitstellungsliste unterstützt drei Ansichtsmodi:

Bereitstellungskarte (Kartenansicht)

Jede Bereitstellungskarte in der Kartenansicht zeigt:

• Kopfzeile: Name, Regionsflagge, Statusabzeichen, Start-/Stopp-/Löschschaltflächen
• Endpoint-URL: Kopierbare URL mit Link zur API-Dokumentation
• Metriken: Anzahl der Anfragen (24h), P95-Latenz, Fehlerrate
• Zustandsprüfung: Live-Zustandsanzeige mit Latenz und manueller Aktualisierung
• Registerkarten: Logs, Codeund Predict

Die Logs Die Registerkarte zeigt die letzten Protokolleinträge mit Filterung nach Schweregrad (Alle / Fehler). Die Code Die Registerkarte zeigt gebrauchsfertige Code-Beispiele in Python, JavaScript und cURL mit Ihrer tatsächlichen Endpunkt-URL und Ihrem API-Schlüssel. Die Predict Die Registerkarte „tab“ bietet ein Inline-Vorhersagefeld zum direkten Testen in der Bereitstellung.

Bereitstellungsstatus

Endpunkt-URL

Jeder Endpunkt hat eine eindeutige URL, zum Beispiel:

https://predict-abc123.run.app

Klicken Sie auf den Kopieren-Button, um die URL zu kopieren. Klicken Sie auf das Dokumentationssymbol, um die automatisch generierte API-Dokumentation für den Endpunkt anzuzeigen.

Lebenszyklusmanagement

Endpunktstatus steuern:

graph LR
    R[Ready] -->|Stop| S[Stopped]
    S -->|Start| R
    R -->|Delete| D[Deleted]
    S -->|Delete| D

    style R fill:#4CAF50,color:#fff
    style S fill:#9E9E9E,color:#fff
    style D fill:#F44336,color:#fff

Endpunkt stoppen

Einen Endpunkt stoppen, um die Abrechnung zu pausieren:

1. Klicken Sie auf das Pause-Symbol auf der Bereitstellungskarte.
2. Der Endpunktstatus ändert sich zu „Wird angehalten“ und dann zu „Angehalten“.

Gestoppte Endpunkte:

• Akzeptieren keine Anfragen
• Verursachen keine Kosten
• Können jederzeit neu gestartet werden

Endpunkt löschen

Endpunkt dauerhaft entfernen:

1. Klicken Sie auf das Löschen- (Papierkorb-) Symbol auf der Bereitstellungskarte.
2. Löschung im Dialog bestätigen

Endpunkte verwenden

Authentifizierung

Jede Bereitstellung wird mit einem API-Schlüssel aus Ihrem Konto erstellt. Fügen Sie ihn in Anfragen ein:

Authorization: Bearer YOUR_API_KEY

Der API-Schlüsselpräfix wird zur Identifizierung in der Fußzeile der Bereitstellungskarte angezeigt. Generieren Sie Schlüssel über API-Schlüssel.

Keine Zinsbeschränkungen

Dedizierte Endpunkte unterliegen nicht den Ratenbegrenzungen der Plattform-API. Anfragen gehen direkt an Ihren dedizierten Dienst, sodass der Durchsatz nur durch die CPU, den Speicher und die Skalierungskonfiguration Ihres Endpunkts begrenzt ist. Dies ist ein entscheidender Vorteil gegenüber Shared Inference, das auf 20 Anfragen/Min. pro API-Schlüssel begrenzt ist.

Anfragebeispiel

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

// Build form data with image and parameters
const formData = new FormData();
formData.append("file", fileInput.files[0]);
formData.append("conf", "0.25");
formData.append("iou", "0.7");
formData.append("imgsz", "640");

// Send image for inference
const response = await fetch(
  "https://predict-abc123.run.app/predict",
  {
    method: "POST",
    headers: { Authorization: "Bearer YOUR_API_KEY" },
    body: formData,
  }
);

const result = await response.json();
console.log(result);

curl -X POST \
  "https://predict-abc123.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -F "file=@image.jpg" \
  -F "conf=0.25" \
  -F "iou=0.7" \
  -F "imgsz=640"

Anforderungsparameter

Antwortformat

Gleich wie Shared Inference mit aufgabenspezifischen Feldern.

Preise

Grundlegende dedizierte Endpunkte sind auf allen Plänen kostenlos. Konfigurationen mit höheren Ressourcen (mehr vCPUs, mehr Arbeitsspeicher, Warmstart) werden zukünftig eine nutzungsbasierte Preisgestaltung bieten.

FAQ

Wie viele Endpunkte kann ich erstellen?

Endpunktgrenzen hängen vom Plan ab:

• Kostenlos: Bis zu 3 Deployments
• Pro: Bis zu 10 Bereitstellungen
• Enterprise: Unbegrenzte Bereitstellungen

Jedes Modell kann weiterhin in mehreren Regionen innerhalb Ihres Plan-Kontingents bereitgestellt werden.

Kann ich die Region nach der Bereitstellung ändern?

Nein, Regionen sind fest. Um Regionen zu ändern:

1. Bestehenden Endpunkt löschen
2. Einen neuen Endpunkt in der gewünschten Region erstellen

Wie gehe ich mit Multi-Region-Bereitstellungen um?

Für globale Abdeckung:

1. Bereitstellung in mehreren Regionen
2. Einen Load Balancer oder DNS-Routing verwenden
3. Benutzer zum nächstgelegenen Endpunkt leiten

Wie hoch ist die Kaltstartzeit?

Die Kaltstartzeit hängt von der Modellgröße und davon ab, ob der Container bereits in der Region zwischengespeichert ist. Typische Bereiche:

Der Gesundheitscheck verwendet eine Zeitüberschreitung von 55 Sekunden, um auch den ungünstigsten Fall eines Kaltstarts zu berücksichtigen.

Kann ich benutzerdefinierte Domains verwenden?

Benutzerdefinierte Domains sind in Kürze verfügbar. Derzeit verwenden Endpunkte plattformgenerierte URLs.

📅 Erstellt vor 2 Monaten ✏️ Aktualisiert vor 7 Tagen

Kommentare