Inference#

Ultralytics Platform bietet browserbasierte Inferenz zum Testen trainierter Modelle und dedizierte Endpunkte für den programmatischen Zugriff.

Vorhersage-Tab#

Jedes Modell mit Gewichten enthält einen Predict-Tab für die browserbasierte Inferenz:

1. Navigiere zu deinem Modell
2. Klicke auf den Predict-Tab
3. Lade ein Bild hoch, verwende ein Beispiel oder öffne deine Webcam
4. Überprüfe das aufgabenbezogene Overlay, die Vorhersagezusammenfassung, das Timing und die Rohantwort.

Modelle ohne Gewichte zeigen stattdessen einen leeren Zustand an – trainiere das Modell oder lade zuerst Gewichte hoch.

Eingabemethoden#

Das Predict-Panel unterstützt mehrere Eingabemethoden:

graph LR
    A[Upload Image]:::start --> D[Auto-Inference]:::proc
    B[Example Image]:::start --> D
    C[Webcam Capture]:::start --> D
    D --> E[Results + Overlays]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Bild hochladen#

Per Drag-and-Drop oder Klick hochladen:

• Unterstützte Formate: JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP
• Maximale Größe: 10 MB
• Auto-Inference: Ergebnisse erscheinen automatisch nach dem Hochladen

Beispielbilder#

Das Vorhersage-Panel zeigt bis zu zwei Beispielfilder aus dem verknüpften Datensatz deines Modells, wobei der val-Split bevorzugt wird, gefolgt von test und dann train. Wenn kein Datensatz verknüpft ist, werden Standardbeispiele verwendet:

Bei OBB-Modellen werden stattdessen Luftaufnahmen von Booten und einem Flughafen angezeigt.

Webcam#

Klicke auf die Webcam-Karte, um einen Live-Kamera-Feed zu starten:

1. Erteile die Kameraerlaubnis, wenn du dazu aufgefordert wirst
2. Klicke auf die Videovorschau, um einen Frame aufzunehmen
3. Die Inference läuft automatisch auf dem aufgenommenen Frame
4. Klicke erneut, um die Webcam neu zu starten

Ergebnisse anzeigen#

Inferenzergebnisse zeigen die Ausgabe, die für die Modellaufgabe geeignet ist: Boxen, Masken, Keypoints, orientierte Boxen, Klassifikationswerte, semantische Abdeckung oder eine Tiefenkarte. Objektergebnisse verwenden die Klassenfarben des Datasets, sofern verfügbar. Das Panel zeigt außerdem das Vorverarbeitungs-, Inferenz-, Nachverarbeitungs- und Netzwerk-Timing.

Das Ergebnisfenster zeigt:

Sobald Ergebnisse vorliegen, befinden sich zwei Steuerelemente über der Vorschau: Klicke auf das Bild, um es bei intakten Overlays zu vergrößern, und verwende die Download-Schaltfläche, um ein annotiertes JPEG des aktuellen Ergebnisses zu speichern.

Inference-Parameter#

Passe das Inferenzverhalten mit den drei Reglern unter dem Bild an:

Konfidenz-Schwellenwert#

Filtere Vorhersagen nach Konfidenz:

• Höher (0.5+): Weniger, aber sicherere Vorhersagen
• Niedriger (0.1-0.25): Mehr Vorhersagen, etwas Rauschen
• Standard (0.25): Ausgewogen für die meisten Anwendungsfälle

IoU-Schwellenwert#

Steuere Non-Maximum Suppression:

• Höher (0.7+): Erlaubt mehr überlappende Boxen
• Niedriger (0.3-0.5): Überlappende Detektionen aggressiver unterdrücken
• Standard (0.7): Ausgewogenes NMS-Verhalten für die meisten Anwendungsfälle

Deployment-Predict#

Jeder laufende dedizierte Endpunkt enthält direkt auf seiner Bereitstellungskarte einen Predict-Tab. Dieser verwendet den eigenen Inferenzdienst der Bereitstellung anstelle des gemeinsam genutzten Vorhersagedienstes, sodass du deinen bereitgestellten Endpunkt direkt vom Browser aus testen kannst.

Dedizierte Endpunkt-API#

Die Karte API Docs im Tab Predict des Modells enthält Python-, JavaScript- und cURL-Beispielfragen, die mit den derzeit auf den Reglern eingestellten Werten für Konfidenz, IoU und Bildgröße vorab ausgefüllt sind. Die URL und der Schlüssel sind Platzhalter, bis du das Modell bereitstellst – eine Deploy-Schaltfläche neben den Code-Tabs springt zum Tab Deploy des Modells. Nach der Bereitstellung füllt sich der Tab Code der Bereitstellungskarte mit der URL dieses Endpunkts und für Workspace-Besitzer mit dem gebundenen API-Schlüssel, der zum Kopieren und Ausführen bereitsteht.

Authentifizierung#

Füge deinen API-Schlüssel in Anfragen ein:

Authorization: Bearer YOUR_API_KEY

Endpunkt#

Dedizierte Endpunkte nehmen Anfragen unter ihrer eigenen URL entgegen:

POST https://YOUR_DEPLOYMENT_URL.run.app/predict

Die gemeinsam genutzte Inferenz verwendet die Platform API mit dem vollständigen Pfad des Modells:

POST https://platform.ultralytics.com/api/models/{owner}/{project}/{model}/predict

Beide akzeptieren denselben multipart/form-data-Body und geben dieselbe Antwortstruktur zurück. Verwende im Python SDK client.models.predict(owner, project, model, body=...) für gemeinsame Inference oder client.deployments.predict(owner, deployment, body=...) für ein dediziertes Deployment:

from ultralytics_platform import Platform

client = Platform()  # reads ULTRALYTICS_API_KEY
with open("image.jpg", "rb") as f:
    results = client.models.predict("acme-vision", "inspection", "v3", body={"file": f, "conf": 0.25})

Anfrage#

import requests

url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

with open("image.jpg", "rb") as image_file:
    response = requests.post(url, headers=headers, files={"file": image_file}, data=data)
print(response.json())

Anfrage-Parameter#

Antwort#

{
    "images": [
        {
            "shape": [1080, 1920],
            "results": [
                {
                    "class": 0,
                    "name": "person",
                    "confidence": 0.92,
                    "box": { "x1": 100, "y1": 50, "x2": 300, "y2": 400 }
                },
                {
                    "class": 2,
                    "name": "car",
                    "confidence": 0.87,
                    "box": { "x1": 400, "y1": 200, "x2": 600, "y2": 350 }
                }
            ],
            "speed": {
                "preprocess": 1.2,
                "inference": 12.5,
                "postprocess": 2.3
            }
        }
    ],
    "metadata": {
        "imageCount": 1,
        "functionTimeAlive": 1284.51,
        "functionTimeCall": 0.018,
        "task": "detect",
        "version": {
            "ultralytics": "8.x.x",
            "torch": "2.6.0",
            "torchvision": "0.21.0",
            "python": "3.13.0"
        }
    }
}

Antwortfelder#

Aufgabenspezifische Antworten#

Das Antwortformat variiert je nach Aufgabe:

{
  "class": 0,
  "name": "person",
  "confidence": 0.92,
  "box": {"x1": 100, "y1": 50, "x2": 300, "y2": 400}
}

Ratenbegrenzungen#

Die gemeinsam genutzte Modell-API ist für jeden API-Schlüssel, angemeldeten Aufrufer oder anonymen IP-Bereich auf 20 Anfragen/Minute begrenzt. Bei Drosselung gibt die API 429 mit einem Retry-After-Header zurück. Weitere Informationen findest du in der vollständigen Ratenbegrenzungs-Referenz für alle Endpunktkategorien.

Fehlerbehandlung#

Häufige Fehlerantworten:

FAQ#