Inferenz#

Die Ultralytics Platform bietet eine browserbasierte Inferenz zum Testen trainierter Modelle sowie dedizierte Endpunkte für den programmatischen Zugriff.

Vorhersage-Tab#

Jedes Modell mit Gewichten enthält eine Registerkarte Predict für browserbasierte Inferenz:

1. Navigiere zu deinem Modell
2. Klicke auf die Registerkarte Predict
3. Lade ein Bild hoch, verwende ein Beispiel oder öffne deine Webcam
4. Überprüfe die aufgabenspezifische Einblendung, die Zusammenfassung der Vorhersagen, die Zeitmessung und die Rohantwort

Modelle ohne Gewichte zeigen stattdessen einen leeren Zustand an – trainiere zuerst das Modell oder lade Gewichte hoch.

Eingabemethoden#

Das Predict-Panel unterstützt mehrere Eingabemethoden:

graph LR
    A[Upload Image]:::start --> D[Auto-Inference]:::proc
    B[Example Image]:::start --> D
    C[Webcam Capture]:::start --> D
    D --> E[Results + Overlays]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Bild hochladen#

Ziehe ein Bild per Drag-and-drop hinein oder klicke zum Hochladen:

• Unterstützte Formate: JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP
• Maximale Größe: 10 MB
• Automatische Inferenz: Die Ergebnisse werden nach dem Hochladen automatisch angezeigt

Beispielbilder#

Das Predict-Panel zeigt bis zu zwei Beispielbilder aus dem verknüpften Datensatz deines Modells an, bevorzugt aus dem Split val, danach test und anschließend train. Wenn kein Datensatz verknüpft ist, werden Standardbeispiele verwendet:

Bei OBB-Modellen werden stattdessen Luftbilder von Booten und einem Flughafen angezeigt.

Webcam#

Klicke auf die Webcam-Karte, um ein Live-Kamerabild zu starten:

1. Erteile die Kameraberechtigung, wenn du dazu aufgefordert wirst
2. Klicke auf die Videovorschau, um ein Bild aufzunehmen
3. Die Inferenz wird automatisch für das aufgenommene Bild ausgeführt
4. Klicke erneut, um die Webcam neu zu starten

Ergebnisse anzeigen#

Die Inferenzergebnisse zeigen die für die Modellaufgabe geeignete Ausgabe: Boxen, Masken, Keypoints, ausgerichtete Boxen, Klassifikationswerte, semantische Abdeckung oder eine Tiefenkarte. Objektergebnisse verwenden, sofern verfügbar, die Klassenfarben des Datensatzes. Das Panel zeigt außerdem die Zeitmessung für Vorverarbeitung, Inferenz, Nachverarbeitung und Netzwerk an.

Das Ergebnisfenster zeigt:

Sobald Ergebnisse vorliegen, befinden sich zwei Steuerelemente über der Vorschau: Klicke auf das Bild, um es mit unveränderten Einblendungen zu vergrößern, und verwende die Download-Schaltfläche, um ein annotiertes JPEG des aktuellen Ergebnisses zu speichern.

Inferenzparameter#

Passe das Inferenzverhalten mit den drei Schiebereglern unter dem Bild an:

Konfidenzschwellenwert#

Filtere Vorhersagen nach ihrer Konfidenz:

• Höher (0.5+): Weniger, aber sicherere Vorhersagen
• Niedriger (0.1–0.25): Mehr Vorhersagen, teilweise mit Rauschen
• Standard (0.25): Ausgewogen für die meisten Anwendungsfälle

IoU-Schwellenwert#

Steuere die Nichtmaximum-Unterdrückung:

• Höher (0.7+): Mehr überlappende Boxen zulassen
• Niedriger (0.3–0.5): Überlappende Erkennungen stärker unterdrücken
• Standard (0.7): Ausgewogenes NMS-Verhalten für die meisten Anwendungsfälle

Bereitstellungs-Predict#

Jeder laufende dedizierte Endpunkt enthält direkt auf seiner Bereitstellungskarte eine Registerkarte Predict. Dabei wird der eigene Inferenzdienst der Bereitstellung anstelle des gemeinsamen Predict-Dienstes verwendet, sodass du deinen bereitgestellten Endpunkt im Browser testen kannst.

Auf einem kostenpflichtigen Endpunkt mit aktiviertem Monitoring tragen verarbeitete Bilder ebenfalls zum Monitoring-Tab bei. Die Stichproben und aggregierten Diagramme des Monitoring-Tabs sind leichtgewichtige, temporäre Daten im Arbeitsspeicher; das Stoppen, Neustarten, Neuausrollen, Ändern der Größe oder Ersetzen des Modells kann die Stichproben und aggregierten Diagramme des Monitoring-Tabs löschen. Speichere Beispiele in einem Dataset, um die Beispiele zu behalten.

API für dedizierte Endpunkte#

Die Karte API Docs in der Registerkarte Predict des Modells enthält Beispielanfragen für Python, JavaScript und cURL, in denen die aktuell über die Schieberegler festgelegten Werte für Konfidenz, IoU und Bildgröße bereits eingetragen sind. URL und Schlüssel sind Platzhalter, bis du das Modell bereitstellst – eine Schaltfläche Deploy neben den Code-Registerkarten führt zur Registerkarte Deploy des Modells. Nach der Bereitstellung werden auf der Registerkarte Code der Bereitstellungskarte die URL dieses Endpunkts und für Arbeitsbereichsbesitzer der zugehörige API-Schlüssel eingetragen, sodass du sie kopieren und ausführen kannst.

Authentifizierung#

Füge deinen API-Schlüssel in Anfragen ein:

Authorization: Bearer YOUR_API_KEY

Endpunkt#

Dedizierte Endpunkte nehmen Anfragen unter ihrer eigenen URL entgegen:

POST https://YOUR_DEPLOYMENT_URL.run.app/predict

Die gemeinsame Inferenz verwendet die Platform API mit dem vollständigen Pfad des Modells:

POST https://platform.ultralytics.com/api/models/{owner}/{project}/{model}/predict

Beide akzeptieren denselben multipart/form-data-Textkörper und geben dieselbe Antwortstruktur zurück. Verwende mit dem Python SDK client.models.predict(owner, project, model, body=...) für die gemeinsame Inferenz oder client.deployments.predict(owner, deployment, body=...) für eine dedizierte Bereitstellung:

from ultralytics_platform import Platform

client = Platform()  # reads ULTRALYTICS_API_KEY
with open("image.jpg", "rb") as f:
    results = client.models.predict("acme-vision", "inspection", "v3", body={"file": f, "conf": 0.25})

Anfrage#

import requests

url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

with open("image.jpg", "rb") as image_file:
    response = requests.post(url, headers=headers, files={"file": image_file}, data=data)
print(response.json())

Anfrageparameter#

Antwort#

{
    "images": [
        {
            "shape": [1080, 1920],
            "results": [
                {
                    "class": 0,
                    "name": "person",
                    "confidence": 0.92,
                    "box": { "x1": 100, "y1": 50, "x2": 300, "y2": 400 }
                },
                {
                    "class": 2,
                    "name": "car",
                    "confidence": 0.87,
                    "box": { "x1": 400, "y1": 200, "x2": 600, "y2": 350 }
                }
            ],
            "speed": {
                "preprocess": 1.2,
                "inference": 12.5,
                "postprocess": 2.3
            }
        }
    ],
    "metadata": {
        "imageCount": 1,
        "functionTimeAlive": 1284.51,
        "functionTimeCall": 0.018,
        "task": "detect",
        "version": {
            "ultralytics": "8.x.x",
            "torch": "2.6.0",
            "torchvision": "0.21.0",
            "python": "3.13.0"
        }
    }
}

Antwortfelder#

Taskspezifische Antworten#

Das Antwortformat variiert je nach Task:

{
  "class": 0,
  "name": "person",
  "confidence": 0.92,
  "box": {"x1": 100, "y1": 50, "x2": 300, "y2": 400}
}

Ratenlimits#

Die gemeinsam genutzte Modell-API ist auf 20 Anfragen/Minute pro API-Key, angemeldeten Aufrufer oder anonyme IP-Adresse begrenzt. Bei einer Drosselung gibt die API 429 mit einem Retry-After-Header zurück. Eine vollständige Übersicht über alle Endpunktkategorien findest du in der Referenz zu den Ratenlimits.

Fehlerbehandlung#

Häufige Fehlerantworten:

FAQ#