Surveillance#

Ultralytics Platform fournit un suivi pour les points de terminaison déployés. Suis les métriques de requêtes, consulte les journaux et vérifie l'état de santé grâce à l'interrogation automatique.

Tableau de bord des déploiements#

La page Deploy dans la barre latérale sert de tableau de bord de suivi pour tous tes déploiements. Elle combine la carte du monde, les métriques d'aperçu et la gestion des déploiements en une seule vue. Consulte Dedicated Endpoints pour créer et gérer des déploiements.

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Deployment"
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Cartes de synthèse#

Quatre cartes de synthèse en haut de la page affichent :

Le P95 plutôt que la latence médiane est rapporté car les vérifications d'état répondent en quelques millisecondes et domineraient autrement l'image de la vraie latence d'inférence.

Carte du monde#

La carte du monde interactive montre :

• Épingles de région pour les 42 régions disponibles
• Épingles vertes pour les régions disposant d'un déploiement prêt
• Épingles bleues animées pour les régions avec des déploiements actifs en cours
• La taille des épingles varie en fonction de l'état du déploiement et de la latence

Clique sur n'importe quelle région pour ouvrir la boîte de dialogue New Deployment. La carte est masquée sur les petits écrans.

Liste des déploiements#

Sous les cartes de synthèse, la liste des déploiements montre tous les endpoints de tes projets. Utilise le sélecteur de mode de vue pour basculer entre :

Métriques par déploiement#

Chaque carte de déploiement (en vue cartes) affiche des métriques en temps réel :

Ligne de métriques#

Les métriques se rafraîchissent automatiquement. Les endpoints n'ayant servi aucune requête affichent "No traffic yet", et les métriques sont collectées uniquement pour les déploiements à l'état Ready. Sur le tableau de bord des déploiements, les métriques sont récupérées pour les 20 déploiements les plus récents.

Vérification de santé#

Les déploiements en cours d'exécution affichent un indicateur de santé :

Les vérifications d'état réessayent automatiquement en cas de dysfonctionnement et s'arrêtent dès que l'endpoint répond. Clique sur l'icône de rafraîchissement pour déclencher manuellement une vérification d'état, ce qui sert également à réchauffer un endpoint réduit à zéro avant d'envoyer du trafic.

Journaux#

Chaque carte de déploiement inclut un onglet Logs pour consulter les entrées de journaux récentes :

Entrées de journal#

Chaque entrée de journal montre :

L'interface utilisateur affiche les 20 entrées les plus récentes et masque les vides. L'API utilise par défaut 50 entrées par requête (max 200) et renvoie un nextPageToken pour paginer plus loin en arrière.

Exemples de code#

Chaque carte de déploiement comprend un onglet Code affichant du code API prêt à l'emploi avec l'URL de l'endpoint renseignée. Pour les propriétaires d'espace de travail, la clé API liée du déploiement est insérée, prête à être copiée et exécutée. Les non-propriétaires voient un espace réservé YOUR_API_KEY :

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Inférence de déploiement#

L'onglet Predict sur chaque carte de déploiement fournit un panneau de prédiction intégré — la même interface que l'onglet Predict du modèle, mais exécutant l'inférence via le point de terminaison de déploiement au lieu du service partagé. C'est utile pour tester un point de terminaison déployé directement depuis le navigateur. Consulte Inference pour les détails des paramètres et les formats de réponse.

Points de terminaison API#

Chaque déploiement est désigné par son propriétaire et son nom de déploiement, et chaque route nécessite une clé API. Consulte la référence API pour les détails d'authentification.

Métriques de déploiement#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

Renvoie la charge utile complète des métriques pour un déploiement : un bloc summary avec le total des requêtes, le nombre et le taux d'erreurs, ainsi que les latences moyenne, P50, P95 et P99, plus des tableaux timeSeries pour les requêtes, les erreurs, les latences P50 et P95, l'utilisation du processeur et de la mémoire, et le nombre d'instances.

Avec sparkline=true, la réponse prend la forme compacte utilisée par les cartes de déploiement — 24 décomptes de requêtes horaires plus le total des requêtes, le taux d'erreur et la latence moyenne. C'est l'appel qui se rafraîchit toutes les 60 secondes.

Journaux de déploiement#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

Renvoie les entrées de journal récentes avec un filtre de sévérité optionnel et une pagination.

Santé du déploiement#

GET /api/deployments/{owner}/{deployment}/health

Envoie un ping au déploiement et renvoie son état de santé avec la latence aller-retour mesurée :

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Une réponse non saine omet status lorsque l'endpoint n'a pas pu être joint du tout, et ajoute un message error.

Optimisation des performances#

Utilise les données de surveillance pour optimiser tes déploiements :

FAQ#