Inférence#

Ultralytics Platform fournit une inférence dans le navigateur pour tester les modèles entraînés et des points de terminaison dédiés pour un accès programmatique.

Onglet Predict#

Chaque modèle avec des poids comprend un onglet Predict pour effectuer des inférences dans le navigateur :

1. Accède à ton modèle
2. Clique sur l’onglet Predict
3. Charge une image, utilise un exemple ou ouvre ta webcam
4. Consulte la superposition propre à la tâche, le résumé de prédiction, les durées et la réponse brute

Les modèles sans poids affichent plutôt un état vide — entraîne d’abord le modèle ou charge des poids.

Méthodes d’entrée#

Le panneau de prédiction prend en charge plusieurs méthodes d’entrée :

Charger une image#

Fais glisser-déposer une image ou clique pour la charger :

• Formats pris en charge : JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP
• Taille maximale : 10 MB
• Inférence automatique : les résultats s’affichent automatiquement après le chargement

Images d’exemple#

Le panneau de prédiction affiche jusqu’à deux images d’exemple issues du jeu de données associé à ton modèle, en privilégiant la partition val, puis test, puis train. Si aucun jeu de données n’est associé, des exemples par défaut sont utilisés :

Pour les modèles OBB, des images aériennes de bateaux et d’un aéroport sont affichées à la place.

Webcam#

Sélectionne Webcam au-dessus de la zone d’image pour démarrer un flux vidéo en direct :

1. Autorise l’accès à la caméra lorsque le navigateur te le demande
2. Clique sur l’aperçu vidéo pour capturer une image
3. L’inférence s’exécute automatiquement sur l’image capturée
4. Clique sur Retour à la webcam pour revenir au flux en direct

Dans l’onglet Predict de ton propre déploiement, la webcam exécute plutôt l’inférence en continu. Consulte la page Inférence en direct avec une caméra.

Afficher les résultats#

Les résultats d’inférence affichent la sortie adaptée à la tâche du modèle : boîtes, masques, points clés, boîtes orientées, scores de classification, couverture sémantique ou carte de profondeur. Lorsque c’est possible, les résultats de détection utilisent les couleurs des classes du jeu de données. Le panneau affiche également les durées de prétraitement, d’inférence, de post-traitement et du réseau.

Le panneau des résultats affiche :

Une fois les résultats disponibles, deux commandes apparaissent sur l’aperçu : clique sur l’image pour l’agrandir sans perdre les superpositions, et utilise le bouton de téléchargement pour enregistrer un JPEG annoté du résultat actuel.

Paramètres d’inférence#

Ajuste le comportement de l’inférence à l’aide des trois curseurs sous l’image (les modèles de profondeur n’affichent que Taille de l’image) :

Seuil de confiance#

Filtre les prédictions selon leur confiance :

• Plus élevé (0.5+) : moins de prédictions, mais plus certaines
• Plus bas (0.1-0.25) : davantage de prédictions, avec un peu de bruit
• Par défaut (0.25) : un bon équilibre pour la plupart des cas d’utilisation

Seuil IoU#

Contrôle la suppression non maximale :

• Plus élevé (0.7+) : autorise davantage de boîtes qui se chevauchent
• Plus bas (0.3-0.5) : supprime plus agressivement les détections qui se chevauchent
• Par défaut (0.7) : un comportement NMS équilibré pour la plupart des cas d’utilisation

Prédiction du déploiement#

Chaque point de terminaison dédié en cours d’exécution comprend un onglet Predict sur sa page de déploiement. Celui-ci utilise le service d’inférence propre au déploiement plutôt que le service de prédiction partagé, ce qui te permet de tester ton point de terminaison déployé depuis le navigateur.

Sur un point de terminaison prêt, les images traitées alimentent également l’onglet Monitoring. Ses exemples et graphiques agrégés sont des données temporaires légères conservées en mémoire ; l’arrêt, le redémarrage, le redéploiement, le redimensionnement ou le remplacement du modèle peut les effacer. Enregistre les exemples dans un jeu de données pour les conserver.

Inférence en direct avec une caméra#

Dans l’onglet Predict d’un déploiement qui t’appartient, sélectionne Webcam ou Caméra IP pour exécuter le point de terminaison sur une vidéo en direct :

L’inférence en direct utilise la clé API associée au point de terminaison, que seul le propriétaire de l’espace de travail peut charger ; pour les autres membres de l’équipe, la webcam capture des images isolées et la Caméra IP n’est pas disponible, comme dans l’onglet Predict d’un modèle. La caméra IP doit être accessible depuis Internet : le point de terminaison refuse les adresses réseau locales telles que 192.168.x.x. Chaque résultat correspond à l’image la plus récente ; les images sont donc ignorées si l’inférence prend du retard. Les changements de curseur s’appliquent à l’image suivante de la webcam et redémarrent le flux de la caméra IP. L’inférence en direct est suspendue lorsque l’onglet du navigateur est masqué. Clique sur l’aperçu pour capturer une image, ou sur Déconnecter pour arrêter la visualisation de la caméra IP.

Caméra en arrière-plan#

Un point de terminaison doté de ressources personnalisées en CPU et en mémoire peut surveiller une caméra IP même après ta déconnexion ou la fermeture de la page. Une fois que la caméra connectée affiche des résultats, active Continuer l’exécution en arrière-plan. L’en-tête du déploiement affiche Caméra activée, et les résultats apparaissent dans l’onglet Surveillance sous forme d’exemples temporaires et de statistiques de prédiction.

• Paramètres : la caméra en arrière-plan utilise toujours le seuil de confiance par défaut (0.25), l’IoU (0.7) et la taille d’image d’entraînement du modèle ; les curseurs ne s’appliquent pas à cette caméra.
• Coût : la caméra utilise l’instance active du point de terminaison sans frais supplémentaires ; le tarif horaire de fonctionnement s’applique, que la caméra soit activée ou non.
• Modifications : activer ou désactiver la caméra, ou en choisir une autre, redémarre l’instance du point de terminaison. Le point de terminaison reste ainsi prêt, mais ses données temporaires de surveillance sont effacées.
• Arrêt : désactive le commutateur. La déconnexion ou la fermeture de la page ne l’arrête pas, et le redimensionnement du point de terminaison à la taille par défaut la supprime. Si la caméra se déconnecte, le point de terminaison continue d’essayer de se reconnecter.
• Cycle de vie du point de terminaison : arrêter le point de terminaison arrête la caméra et les frais ; le redémarrer réactive la caméra enregistrée.

Les points de terminaison de taille par défaut proposent l’inférence en direct par webcam et caméra IP, sans option d’arrière-plan. Pour enregistrer une caméra en arrière-plan via l’API, utilise l’action camera du déploiement.

Diffuser les résultats depuis l’API#

Envoie une URL RTSP ou RTSPS en tant que source, avec l’en-tête Accept: text/event-stream, à une URL de point de terminaison dédié pour recevoir les résultats sous forme d’événements envoyés par le serveur :

curl -N -X POST \
  "https://YOUR_DEPLOYMENT_URL.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Accept: text/event-stream" \
  -F "source=rtsp://user:password@camera.example.com:554/stream" \
  -F "conf=0.25"

Chaque événement d’image contient images dans le format de réponse, avec des coordonnées normalisées (0-1), une URL de données JPEG preview de l’image, et metadata avec la tâche et les noms des classes. Seuls conf, iou et imgsz s’appliquent, et la diffusion de l’URL de la caméra en arrière-plan du point de terminaison utilise ses paramètres par défaut. Les événements ne contenant que status ne transportent aucune image, et un événement contenant un message error (la caméra n’a pas pu être lue ou le point de terminaison ne peut pas exécuter le modèle) met fin au flux. Le flux se ferme également au redémarrage du point de terminaison ou lorsque la requête atteint sa limite de temps ; si le flux se termine sans erreur, reconnecte-toi en augmentant progressivement le délai d’attente. La route de prédiction de déploiement de l’API Platform et le SDK ne prennent pas en charge la diffusion en continu ; envoie les requêtes de caméra à l’URL du point de terminaison avec sa clé API associée. Une requête de caméra source sans l’en-tête renvoie 400.

API du point de terminaison dédié#

La carte API Docs de l’onglet Predict du modèle contient des exemples de requêtes Python, JavaScript et cURL, préremplis avec les valeurs de confiance, d’IoU et de taille d’image actuellement définies sur les curseurs. L’URL et la clé sont des espaces réservés jusqu’au déploiement du modèle — un bouton Deploy à côté des onglets de code te mène directement à l’onglet Deploy du modèle. Après le déploiement, l’onglet de résultat Docs dans l’onglet Predict de la page de déploiement renseigne l’URL de ce point de terminaison et, pour les propriétaires de l’espace de travail, sa clé API associée, prête à être copiée et exécutée.

Authentification#

Inclue ta clé API dans les requêtes :

Authorization: Bearer YOUR_API_KEY

Point de terminaison#

Les points de terminaison dédiés reçoivent les requêtes à leur propre URL :

POST https://YOUR_DEPLOYMENT_URL.run.app/predict

L’inférence partagée utilise l’API de la plateforme avec le chemin complet du modèle :

POST https://platform.ultralytics.com/api/models/{owner}/{project}/{model}/predict

Les deux acceptent le même corps multipart/form-data et renvoient une réponse de même structure. Avec le SDK Python, utilise client.models.predict(owner, project, model, body=...) pour l’inférence partagée ou client.deployments.predict(owner, deployment, body=...) pour un déploiement dédié. Les deux méthodes du SDK appellent l’API de la plateforme ; ses limites de débit et la limite de taille des requêtes s’appliquent donc. Pour les éviter, envoie directement une requête à l’URL d’un point de terminaison dédié, comme indiqué sous Requête. Exemple d’inférence partagée :

from ultralytics_platform import Platform

client = Platform()  # reads ULTRALYTICS_API_KEY
with open("image.jpg", "rb") as f:
    results = client.models.predict("acme-vision", "inspection", "v3", body={"file": f, "conf": 0.25})

Requête#

import requests

url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

with open("image.jpg", "rb") as image_file:
    response = requests.post(url, headers=headers, files={"file": image_file}, data=data)
print(response.json())

Paramètres de requête#

Réponse#

{
    "images": [
        {
            "shape": [1080, 1920],
            "results": [
                {
                    "class": 0,
                    "name": "person",
                    "confidence": 0.92,
                    "box": { "x1": 100, "y1": 50, "x2": 300, "y2": 400 }
                },
                {
                    "class": 2,
                    "name": "car",
                    "confidence": 0.87,
                    "box": { "x1": 400, "y1": 200, "x2": 600, "y2": 350 }
                }
            ],
            "speed": {
                "preprocess": 1.2,
                "inference": 12.5,
                "postprocess": 2.3
            }
        }
    ],
    "metadata": {
        "imageCount": 1,
        "classNames": ["person", "bicycle", "car", "..."],
        "functionTimeAlive": 1284.51,
        "functionTimeCall": 0.018,
        "task": "detect",
        "version": {
            "ultralytics": "8.x.x",
            "torch": "2.6.0",
            "torchvision": "0.21.0",
            "python": "3.13.0"
        }
    }
}

Champs de la réponse#

Réponses spécifiques à la tâche#

Le format de la réponse varie selon la tâche :

{
  "class": 0,
  "name": "person",
  "confidence": 0.92,
  "box": {"x1": 100, "y1": 50, "x2": 300, "y2": 400}
}

Limites de débit#

L’API de modèle partagée est limitée à 20 requêtes/minute pour chaque clé API, appelant connecté ou adresse IP anonyme. La route de prédiction des déploiements de la plateforme (POST /api/deployments/{owner}/{deployment}/predict) est soumise à la même limite. En cas de limitation, l’API renvoie 429 avec un en-tête Retry-After. Consulte la référence complète des limites de débit pour toutes les catégories de points de terminaison.

Gestion des erreurs#

Réponses d’erreur courantes :

FAQ#