Surveillance#

Ultralytics Platform propose la surveillance des points de terminaison déployés. Suis les requêtes, la latence, les erreurs et les journaux des points de terminaison. Les points de terminaison dédiés prêts à l’emploi sur un environnement d’exécution actuel fournissent aussi des statistiques de prédiction en direct et des exemples temporaires que tu peux examiner et enregistrer dans des jeux de données.

Onglet Déploiements#

L’onglet Déploiements de ton profil sert de tableau de bord de surveillance pour tous tes déploiements. Il regroupe la carte du monde, les métriques récapitulatives et la gestion des déploiements dans une même vue. Consulte Points de terminaison dédiés pour créer et gérer des déploiements.

graph TB
    subgraph "Deployments Tab"
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Deployment Page"
        Metrics[Metrics Cards]:::out
        Overview[Overview Tab: Endpoint and Health Check]:::out
        Monitoring[Monitoring Tab]:::out
        Predict[Predict Tab]:::out
        Logs[Logs Tab]:::out
    end
    List --> Metrics
    List --> Overview
    List --> Monitoring
    List --> Predict
    List --> Logs

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Cartes récapitulatives#

Quatre cartes récapitulatives en haut de la page affichent :

La latence P95 plutôt que la latence médiane est indiquée, car les contrôles d’état répondent en quelques millisecondes et domineraient autrement la représentation de la latence réelle d’inférence.

Carte du monde#

La carte du monde interactive affiche :

• Repères régionaux pour les 42 régions disponibles
• Repères verts pour les régions ayant un déploiement prêt
• Repères bleus animés pour les régions où des déploiements sont en cours
• La taille des repères varie selon l’état du déploiement et la latence

Clique sur une région pour ouvrir la boîte de dialogue New Deployment. La carte est masquée sur les petits écrans.

Liste des déploiements#

Sous les cartes récapitulatives, la liste des déploiements présente tous les points de terminaison de tes projets. Utilise le sélecteur de mode d’affichage pour choisir entre :

Métriques par déploiement#

Chaque page de déploiement affiche des métriques en temps réel au-dessus de ses onglets Overview, Monitoring, Predict et Logs :

Cartes de métriques#

Chaque carte affiche une courbe sparkline et s’actualise toutes les minutes, à côté d’une carte renvoyant au modèle déployé. Les métriques sont collectées uniquement pour les déploiements à l’état Prêt. Dans l’onglet Déploiements, les métriques sont récupérées pour les 20 déploiements les plus récents.

Vérification de l’état#

La carte Point de terminaison de l’onglet Overview d’un déploiement en cours d’exécution affiche un indicateur de contrôle d’état :

Les contrôles d’état sont relancés automatiquement tant que le point de terminaison est en mauvais état et s’arrêtent dès qu’il répond. L’ouverture de la page du déploiement lance un contrôle d’état, et le bouton de nouvelle vérification en déclenche un autre, ce qui permet aussi de réchauffer un point de terminaison ramené à zéro avant de lui envoyer du trafic.

Onglet Surveillance#

Ouvre la page de déploiement d’un point de terminaison dédié à l’état Prêt, puis sélectionne l’onglet Surveillance. Envoie une image via son onglet Prédire ou l’API du point de terminaison, ou laisse une caméra en arrière-plan fonctionner pour alimenter Exemples temporaires et Statistiques de prédiction. Avant le traitement de la première image, l’onglet affiche Aucune image traitée.

Exemples temporaires#

La galerie contient des images traitées récemment, avec des superpositions de prédiction. Ouvre une image pour examiner ses prédictions dans le lecteur plein écran et utilise les commandes de visibilité pour ajuster les superpositions. La galerie affiche jusqu’à 12 exemples au départ ; Tout afficher permet de la développer.

• Capture : Les images traitées récemment apparaissent comme exemples temporaires, à raison d’une image par seconde au maximum. La capture est effectuée au mieux ; l’inférence n’attend pas l’encodage des exemples.
• Capacité : Au maximum 100 images dans une limite de mémoire partagée de 100 MiB pour les images compressées, les métadonnées de prédiction et les ressources associées. L’interface indique cette limite sous la forme 100 MB.
• Remplacement : Les exemples les plus anciens sont remplacés lorsque l’une ou l’autre des limites est atteinte. Un exemple peut devenir indisponible pendant que tu le consultes.
• Stockage : Les exemples temporaires restent dans la mémoire du point de terminaison. Leur enregistrement dans un jeu de données utilise les limites habituelles de stockage et de traitement de l’espace de travail.

Enregistrer les exemples dans un jeu de données#

Les membres de l’espace de travail disposant d’un droit de modification du contenu peuvent enregistrer des exemples dans un jeu de données de l’espace de travail du point de terminaison :

1. Sélectionne des exemples individuellement à l’aide de leurs cases à cocher, ou clique sur Tout sélectionner.
2. Clique sur Enregistrer dans le jeu de données.
3. Choisis un jeu de données existant ayant la même tâche que le modèle déployé. Les jeux de données reliés à une source sont exclus ; si aucun jeu de données n’est disponible, crée d’abord un jeu de données compatible.
4. Clique sur le bouton Enregistrer, qui indique le nombre d’images sélectionnées, puis ouvre le jeu de données pour suivre le traitement.

Les images et les prédictions sélectionnées sont copiées à l’aide du processus standard de téléversement et d’ingestion des jeux de données. Les quotas, le mappage des classes et la gestion des doublons habituels s’appliquent. L’enregistrement laisse les exemples temporaires dans la galerie ; les images correctement ingérées dans le jeu de données survivent aux redémarrages et à la suppression du point de terminaison. Vérifie les étiquettes prédites avant de les utiliser pour l’entraînement. Chaque image enregistrée consigne deploymentId, deploymentName, deploymentRegion et deploymentRegionName dans ses métadonnées personnalisées, sur lesquelles la recherche dans le jeu de données peut s’appuyer ; les noms sont enregistrés tels qu’ils étaient au moment de l’enregistrement, et une image ignorée parce qu’elle est en double conserve ses métadonnées existantes.

Pour supprimer des exemples temporaires, utilise la commande de suppression qui apparaît au survol d’une image, ou sélectionne des exemples et clique sur le bouton de suppression groupée, puis confirme en cliquant sur Supprimer. La suppression d’exemples ne modifie ni les statistiques de prédiction agrégées ni les images déjà enregistrées dans des jeux de données.

Statistiques de prédiction#

Les statistiques regroupent les images traitées indépendamment de la galerie. La suppression ou le remplacement d’un exemple ne soustrait pas sa contribution. Le récapitulatif affiche le nombre d’images, de prédictions et d’images sans prédiction pour la période sélectionnée ; les modèles de profondeur affichent le nombre d’images.

Le sélecteur de dates est réglé par défaut sur les 30 derniers jours et accepte des plages allant jusqu’à 365 jours. Les dates sélectionnées utilisent les limites UTC ; les horodatages des graphiques s’affichent à l’heure locale. Pour les plages récentes allant jusqu’à trois jours, l’historique horaire est utilisé si toute la plage se situe dans les dernières 72 heures ; les autres plages utilisent l’historique quotidien. La plage de dates filtre les statistiques, tandis que la galerie continue d’afficher les exemples temporaires actuels.

L’historique est limité à 72 périodes horaires et 365 périodes journalières, et n’est disponible que depuis le démarrage de l’instance actuelle. Si aucune image n’a été traitée pendant la période sélectionnée, le message Aucune image traitée pendant cette période s’affiche.

Les graphiques disponibles dépendent de la tâche et des prédictions collectées :

La surveillance s’actualise automatiquement tant que son panneau est ouvert et visible, et se met en pause lorsque le panneau est hors écran ou que l’onglet du navigateur est masqué. Une inférence réussie via l’onglet Predict du déploiement déclenche également l’actualisation des statistiques.

Journaux#

Chaque page de déploiement comprend un onglet Logs permettant de consulter les entrées récentes du journal :

Entrées du journal#

Chaque entrée du journal affiche :

L’interface affiche les 20 entrées les plus récentes et masque celles qui sont vides. Par défaut, l’API renvoie 50 entrées par requête (200 au maximum) et renvoie un nextPageToken pour parcourir les pages précédentes.

Exemples de code#

L’onglet de résultats Docs de l’onglet Predict de chaque déploiement affiche du code API prêt à l’emploi, avec l’URL du point de terminaison et, pour les propriétaires de l’espace de travail, la clé API associée au déploiement déjà renseignée. Le code est prêt à être copié et exécuté. Les personnes qui ne sont pas propriétaires voient un espace réservé YOUR_API_KEY :

import requests

# Point de terminaison de déploiement
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# En-têtes contenant ta clé API de déploiement
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Paramètres d'inférence
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Envoyer une image pour l'inférence
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Prédiction du déploiement#

L’onglet Predict de chaque page de déploiement fournit un panneau de prédiction intégré — la même interface que l’onglet Predict du modèle, mais qui exécute l’inférence via le point de terminaison du déploiement plutôt que via le service partagé. C’est utile pour tester directement un point de terminaison déployé depuis le navigateur. Consulte Inférence pour en savoir plus sur les paramètres et les formats de réponse.

Points de terminaison de l’API#

Chaque déploiement est désigné par son propriétaire et son nom, et chaque route nécessite une clé API. Consulte la référence de l’API pour en savoir plus sur l’authentification.

Métriques du déploiement#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

SDK Python : client.deployments.metrics(owner, deployment, range="24h")

Renvoie la charge utile complète des métriques d’un déploiement : un bloc summary contenant le nombre total de requêtes, le nombre et le taux d’erreurs, ainsi que les latences moyenne, P50, P95 et P99 ; il inclut également des tableaux timeSeries pour les requêtes, les erreurs, les latences P50 et P95, l’utilisation du CPU et de la mémoire, ainsi que le nombre d’instances.

Avec sparkline=true, la réponse est un résumé compact : le nombre de requêtes par heure au cours des dernières 24 heures (les heures sans requête sont omises), ainsi que le nombre total de requêtes, le taux d’erreurs et avgLatencyMs, qui correspond à la moyenne des latences P95 horaires. Avec view=overview, summary contient totalRequests, errorRate et p95LatencyMs, tandis que timeSeries contient requests, errors et latencyP95 ; les cartes de statistiques de la page de déploiement utilisent cette vue et s’actualisent automatiquement.

Journaux du déploiement#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

SDK Python : client.deployments.logs(owner, deployment, limit=50, severity="ERROR,WARNING")

Renvoie les entrées récentes du journal, avec un filtre de gravité et une pagination facultatifs.

État du déploiement#

GET /api/deployments/{owner}/{deployment}/health

SDK Python : client.deployments.health(owner, deployment)

Envoie une requête ping au déploiement et renvoie son état avec la latence aller-retour mesurée :

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Une réponse indiquant un état dégradé omet status si le point de terminaison est totalement inaccessible, et ajoute un message error.

Optimisation des performances#

Utilise les données de surveillance pour optimiser tes déploiements :

FAQ#