Ultralytics YOLO27:

İzleme#

Ultralytics Platform, dağıtılmış uç noktalar için izleme özelliği sağlar. Uç nokta isteklerini, gecikmeyi, hataları ve günlükleri takip et. Ücretli ayrılmış uç noktalar ayrıca canlı tahmin istatistikleri ve inceleyip veri kümelerine kaydedebileceğin geçici örnekler sunar.

Ultralytics Platform Dağıtım Sayfası Genel Bakış Kartları ve Dünya Haritası

Dağıtımlar Panosu#

Kenar çubuğundaki Deploy sayfası, tüm dağıtımların için izleme panosu olarak kullanılır. Dünya haritasını, genel bakış ölçümlerini ve dağıtım yönetimini tek görünümde birleştirir. Dağıtım oluşturma ve yönetme hakkında bilgi için Özel Uç Noktalar sayfasına bak.

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Ready Deployment"
        Monitoring[Monitoring Tab: Paid Endpoints]:::out
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Monitoring
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Genel Bakış Kartları#

Sayfanın üst kısmındaki dört özet kartı şunları gösterir:

Ultralytics Platform Dağıtım Sayfası Dört Genel Bakış Kartı

ÖlçütAçıklama
HTTP İstekleri (24s)Tahmin, izleme ve sağlık kontrolü istekleri dahil olmak üzere uç noktalar arasındaki HTTP istekleri
Etkin DağıtımlarŞu anda Hazır durumunda olan uç noktalar
HTTP Hata Oranı (24s)İstek hacmine göre ağırlıklandırılmış, 4xx veya 5xx durumuna sahip yanıtların payı
HTTP P95 Gecikmesi (24s)Hacme göre ağırlıklandırılmış, saatlik 95. yüzdelik gecikmelerin ortalaması

Gerçek çıkarım gecikmesi görünümünü başka türlü domine edeceğinden, sağlık kontrolleri birkaç milisaniyede tamamlandığı için medyan gecikme yerine P95 gecikme raporlanır.

Hata Oranı Uyarısı

Hata oranı %5'i aştığında hata oranı kartı kırmızı renkle vurgulanır. Hataları teşhis etmek için tek tek dağıtımlardaki Logs sekmesini kontrol et.

Dünya Haritası#

Etkileşimli dünya haritası şunları gösterir:

  • Mevcut 42 bölgenin tamamı için bölge iğneleri
  • Hazır bir dağıtıma sahip bölgeler için yeşil iğneler
  • Devam eden etkin dağıtımlara sahip bölgeler için hareketli mavi iğneler
  • İğne boyutu, dağıtım durumuna ve gecikmeye göre değişir

New Deployment iletişim kutusunu açmak için herhangi bir bölgeye tıkla. Harita küçük ekranlarda gizlenir.

Dağıtılan Bölgeleri Gösteren Ultralytics Platform Dağıtım Sayfası Dünya Haritası

Dağıtımlar Listesi#

Genel bakış kartlarının altında, dağıtımlar listesi projelerindeki tüm uç noktaları gösterir. Görünüm modu düğmesini kullanarak şu görünümler arasında geçiş yap:

GörünümAçıklama
KartlarÖlçümleri, günlükleri, kodu, tahmini ve uygun izleme sekmelerini içeren tam detay kartları
KompaktTemel ölçümleri içeren daha küçük kartlardan oluşan ızgara (1-4 sütun)
TabloSıralanabilir sütunlara sahip DataTable: Ad, Bölge, Durum, İstekler, P95, Hatalar
Gerçek Zamanlı Güncellemeler

Dağıtımlar geçiş durumundayken (creating, deploying veya stopping) pano otomatik olarak yenilenir ve güncellemeler daha sık yapılır. Anında güncelleme için yenileme düğmesine tıkla.

Dağıtım Başına Ölçümler#

Her dağıtım kartı (kartlar görünümünde) gerçek zamanlı ölçümleri gösterir. Aşağıda açıklanan ölçüm satırı, sağlık kontrolü ve Logs, Code ile Predict sekmeleri yalnızca dağıtım Hazır durumundayken görünür:

Ölçüm Satırı#

ÖlçütAçıklama
İsteklerSon 24 saatteki istek sayısı
P95 GecikmeSaatlik 95. yüzdelik gecikmelerin ortalaması (24 saat)
Hata OranıYalnızca 0'ın üzerindeyken gösterilen 4xx ve 5xx yanıtlarının payı

Ölçümler otomatik olarak yenilenir. Henüz istek sunmamış uç noktalar "Henüz trafik yok" ifadesini gösterir ve ölçümler yalnızca Hazır durumundaki dağıtımlar için toplanır. Dağıtımlar panosunda ölçümler en son 20 dağıtım için alınır.

Sağlık Kontrolü#

Çalışan dağıtımlar bir sağlık kontrolü göstergesi gösterir:

GöstergeAnlamı
Yeşil kalpSağlıklı — yanıt gecikmesini gösterir
Kırmızı kalpSağlıksız — hata mesajını gösterir
Dönen simgeSağlık kontrolü devam ediyor

Sağlık kontrolleri sağlıksız durumdayken otomatik olarak yeniden denenir ve uç nokta yanıt verdiğinde durur. Sağlık kontrolünü manuel olarak başlatmak için yenileme simgesine tıkla; bu işlem, trafik göndermeden önce sıfıra ölçeklenmiş bir uç noktayı ısıtmanın da bir yoludur.

Gecikmeyle Birlikte Sağlıklı Sağlık Kontrolünü Gösteren Ultralytics Platform Dağıtım Kartı

Soğuk Başlangıç Toleransı

Platform, sağlık kontrolü için ek süre tanır ve geçici bağlantı hatalarını yeniden dener; böylece sıfıra ölçeklenen bir uç noktanın başlamak için zamanı olur. Kart "Hizmet başlatılıyor..." ifadesini gösteriyorsa, bu sırada başlatılmayı tamamlayan bir örneği algılamak için kartı yenile.

İzleme Sekmesi#

Deploy öğesini aç, Cards görünümüne geç ve Ready durumundaki ücretli, ayrılmış bir uç noktada Monitoring seçeneğini seç. Geçici Örnekler ile Tahmin İstatistikleri öğelerini doldurmak için Predict sekmesi veya uç nokta API'si üzerinden bir görsel gönder. İşlenen ilk görselden önce sekme İşlenen görsel yok mesajını gösterir.

Uç Nokta Uygunluğu

İzleme, izleme özellikli bir çalışma zamanı çalıştıran ücretli ve çalışma süresine göre faturalandırılan bir uç nokta gerektirir. Dahil edilen bir uç nokta, yalnızca ücretli bir çalışma alanı planı nedeniyle bu sekmeyi kazanmaz. Kaynak yapılandırması için Dedicated Endpoints sayfasına bak. Mevcut uç noktalar her çalışma zamanı sürümüyle otomatik olarak güncellenmez; bu nedenle daha eski bir uç nokta, çalışma zamanı güncellenene kadar İzleme kullanılamıyor durumunu gösterebilir.

Ultralytics Platform Deployment Monitoring Temporary Examples And Statistics

Geçici Veriler

İzleme hafif ve geçicidir: Grafikler, tahmin istatistikleri ve örnek görseller yalnızca sunum örneğinin belleğinde yaşar. Uç nokta kapandığında, durdurulduğunda, yeniden başlatıldığında, yeniden dağıtıldığında, kaynakları değiştirildiğinde veya modeli değiştirildiğinde kaybolabilirler. Uç nokta yeniden başladığında geçmiş geri yüklenmez. Yararlı örnekleri bir veri kümesine kaydet ve uç noktayı değiştirmeden önce veri alma işleminin bitmesini bekle.

Geçici Örnekler#

Galeri, tahmin kaplamalarına sahip işlenen görsellerin dönen bir örneğini içerir. Tam ekran görüntüleyicide tahminleri incelemek için bir görsel aç ve kaplamaları ayarlamak için görünürlük kontrollerini kullan. Galeri başlangıçta en fazla 12 örnek gösterir; Tümünü göster bu galeriyi genişletir.

  • Örnekleme: Başlangıçta en fazla iki örnek, ardından dakikada en fazla bir ek görsel. Yakalama en iyi çaba esasına dayanır; çıkarım, örnek kodlamasını beklemez.
  • Kapasite: Sıkıştırılmış görseller, tahmin meta verileri ve ilgili varlıklar için paylaşılan 100 MiB bellek bütçesi içinde en fazla 100 görsel. Arayüz bu bütçeyi 100 MB olarak etiketler.
  • Değiştirme: Sınırların herhangi birine ulaşıldığında eski örnekler değiştirilir. Sen görüntülerken bir örnek kullanılamaz hale gelebilir.
  • Depolama: Geçici örnekler uç nokta belleğinde kalır. Bunları bir veri kümesine kaydetmek, normal çalışma alanı depolama ve işleme sınırlarını kullanır.

Ultralytics Platform Deployment Monitoring Prediction Viewer

Örnekleri Bir Veri Kümesine Kaydet#

İçerik düzenleme iznine sahip çalışma alanı üyeleri, örnekleri uç noktanın çalışma alanındaki bir veri kümesine kaydedebilir:

  1. Onay kutularını kullanarak ayrı örnekleri seç veya Tümünü seç seçeneğine tıkla.
  2. Veri kümesine kaydet seçeneğine tıkla.
  3. Dağıtılan modelle aynı göreve sahip mevcut bir veri kümesini seç. Bağlı kaynak veri kümeleri hariç tutulmuştur; uygun veri kümesi yoksa önce uyumlu bir veri kümesi oluştur.
  4. Seçilen görsel sayısını gösteren Kaydet düğmesine tıkla, ardından işlemeyi takip etmek için veri kümesini aç.

Seçilen görseller ve tahminler, standart veri kümesi yükleme ve veri alma iş akışı aracılığıyla kopyalanır. Normal kota, sınıf eşleme ve yinelenen işleme kuralları geçerlidir. Kaydetme işlemi, geçici örnekleri galeride bırakır; başarıyla içe aktarılan veri kümesi görselleri uç nokta yeniden başlatmalarından ve silinmelerinden sağ kurtulur. Eğitim için kullanmadan önce tahmin edilen etiketleri incele.

Ultralytics Platform Deployment Monitoring Save Examples To Dataset

Geçici örnekleri kaldırmak için bir görselin üzerine gelindiğinde çıkan çöp kutusu kontrolünü kullan veya örnekleri seçip toplu çöp kutusu düğmesine tıkladıktan sonra Delete öğesini onayla. Örnekleri silmek, toplu tahmin istatistiklerini ve veri kümelerine çoktan kaydedilmiş görselleri değiştirilmemiş olarak bırakır.

Tahmin İstatistikleri#

İstatistikler, galeri örneklemesinden bağımsız olarak işlenen görselleri toplar. Bir örneği silmek veya değiştirmek, o örneğin katkısını azaltmaz. Özet, seçilen dönem için görselleri, tahminleri ve tahmini olmayan görselleri gösterir; derinlik modelleri görsel sayılarını gösterir.

Tarih seçici varsayılan olarak son 30 days değerini kullanır ve 365 days değerine kadar olan aralıkları kabul eder. Seçilen tarihler UTC sınırlarını kullanır; grafik zaman damgaları yerel saat diliminde görüntülenir. Tam aralık son 72 saat içinde kalırsa en fazla üç günlük son aralıklar saatlik geçmişi kullanır; diğer aralıklar günlük geçmişi kullanır. Tarih aralığı istatistikleri filtrelerken, galeri mevcut geçici örnekleri göstermeye devam eder.

Geçmiş, 72 hourly buckets ve 365 daily buckets ile sınırlandırılmıştır ve yalnızca mevcut örnek başladığından beri kullanılabilir. İşlenen görseli olmayan seçilen bir dönem No images processed in this period mesajını gösterir.

Kullanılabilir grafikler göreve ve toplanan tahminlere bağlıdır:

GrafikNe gösterdiği
Predictions over Timeİşlenen görsel ve tahmin toplamları; derinlik modelleri Images over Time gösterir
Inference TimeAğ ve istek ek yükü hariç, milisaniye cinsinden ortalama model çıkarım süresi
En Sık SınıflarSınıfa göre tahmin sayıları
Predictions per ImageTahmini olmayan görseller ve son 100+ bölmesi dahil dağılım; sınıflandırma ve derinlik için gizlidir
Prediction ConfidenceGüven puanları mevcut olduğunda güven dağılımı ve ortalaması
Confidence over TimeHer zaman dilimi için ortalama tahmin güveni
Prediction DimensionsKutu boyutları mevcut olduğunda, giriş görseline göre tahmin genişliği ve yüksekliği
Prediction LocationsKonum verileri mevcut olduğunda tahminlerin mekansal ısı haritası

Ultralytics Platform Deployment Monitoring Prediction Statistics

Ultralytics Platform Deployment Monitoring Confidence And Spatial Statistics

İstatistikleri Yorumlama

Güven, doğruluğu değil modelin kesinliğini ölçer. Doğruluğu değerlendirirken örnekleri incele ve gözden geçirilmiş etiketlerle karşılaştır. Inference Time, model yürütülmesini ölçer; dağıtımın P95 Latency değeri istek işlemeyi içerir ve sağlık kontrolleri gibi çıkarım dışı trafiği de yansıtabilir.

İzleme paneli açık ve görünür durumdayken yaklaşık her 2 seconds saniyede bir yenilenir. Panel ekran dışındayken veya tarayıcı sekmesi gizliyken yoklama duraklatılır. Dağıtımın Predict sekmesi üzerinden başarılı çıkarım aynı zamanda bir istatistik yenilenmesini tetikler.

Günlükler#

Her dağıtım kartında, son günlük girdilerini görüntülemek için bir Logs sekmesi bulunur:

Önem Derecesi Filtresine Sahip Ultralytics Platform Dağıtım Kartı Günlükler Sekmesi

Günlük Girdileri#

Her günlük girdisi şunları gösterir:

AlanAçıklama
Önem derecesiRenk kodlu çubuk (aşağıya bak)
Zaman damgasıİstek zamanı (yerel biçim)
MesajGünlük içeriği
HTTP bilgileriDurum kodu ve gecikme (uygunsa)

Her girdide renk kodlu bir önem derecesi çubuğu bulunur:

DüzeyRenkAçıklama
DEBUGGriHata ayıklama mesajları
INFOMaviNormal istekler
WARNINGKehribarKritik olmayan sorunlar
ERRORKırmızıBaşarısız istekler
CRITICALKırmızıKritik hatalar

API, günlük önem derecelerinin tamamını virgülle ayrılmış bir filtre olarak kabul eder: DEBUG, INFO, NOTICE, WARNING, ERROR, CRITICAL, ALERT ve EMERGENCY.

Kullanıcı arayüzü en son 20 girdiyi gösterir ve boş olanları gizler. API, istek başına varsayılan olarak 50 girdi (en fazla 200) döndürür ve daha eski girdilere geçiş için bir nextPageToken döndürür.

Hata Ayıklama İş Akışı

Hataları incelerken: önce Errors seçeneğine tıklayarak ERROR ve WARNING girişlerini filtrele, ardından zaman damgalarını ve HTTP durum kodlarını incele. Ekibinle paylaşmak için günlükleri panoya kopyala.

Kod Örnekleri#

Her dağıtım kartında, uç nokta URL'si doldurulmuş, kullanıma hazır API kodunu gösteren bir Code sekmesi bulunur. Çalışma alanı sahipleri için dağıtıma bağlı API anahtarı eklenir; böylece anahtarı kopyalayıp çalıştırabilirsin. Sahip olmayan kullanıcılar bir YOUR_API_KEY yer tutucusu görür:

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())
Otomatik Doldurulan Kimlik Bilgileri

Platformda Code sekmesini görüntülerken uç nokta URL'si ve çalışma alanı sahipleri için dağıtıma bağlı API anahtarı senin için doldurulur. Anahtar oluşturmak için API Anahtarları sayfasına bak.

Dağıtım Predict'i#

Her dağıtım kartındaki Predict sekmesi, satır içi bir tahmin paneli sağlar — modelin Predict sekmesindeki arayüzün aynısıdır, ancak çıkarımı paylaşılan hizmet yerine dağıtım uç noktası üzerinden çalıştırır. Bu, dağıtılan bir uç noktayı doğrudan tarayıcıdan test etmek için kullanışlıdır. Parametre ayrıntıları ve yanıt biçimleri için Çıkarım sayfasına bak.

API Uç Noktaları#

Her dağıtım, sahibi ve dağıtım adıyla adreslenir ve her rota bir API anahtarı gerektirir. Kimlik doğrulama ayrıntıları için API referansına bak.

Dağıtım Metrikleri#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

Python SDK: client.deployments.metrics(owner, deployment, range="24h")

Bir dağıtım için tüm metrik yükünü döndürür: toplam istek sayısını, hata sayısını ve oranını, ortalama, P50, P95 ve P99 gecikmesini içeren bir summary bloğunun yanı sıra istekler, hatalar, P50 ve P95 gecikmesi, CPU ve bellek kullanımı ve örnek sayısı için timeSeries dizileri.

ParametreTürAçıklama
rangestringZaman aralığı: 1h, 6h, 24h, 7d veya 30d (varsayılan 24h)
sparklineboolTam yük yerine kısa pano özetini döndür

sparkline=true ile yanıt, dağıtım kartlarının kullandığı kısa biçimdedir — 24 saatlik istek sayısının yanı sıra toplam istek sayısı, hata oranı ve ortalama gecikme. Bu çağrı her 60 saniyede bir yenilenir.

Dağıtım Günlükleri#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

Python SDK: client.deployments.logs(owner, deployment, limit=50, severity="ERROR,WARNING")

İsteğe bağlı önem derecesi filtresi ve sayfalama ile en son günlük girişlerini döndürür.

ParametreTürAçıklama
limitintDöndürülecek maksimum giriş sayısı (varsayılan: 50, maksimum: 200)
severitystringVirgülle ayrılmış önem derecesi filtresi
pageTokenstringÖnceki yanıttan alınan sayfalama belirteci

Dağıtım Durumu#

GET /api/deployments/{owner}/{deployment}/health

Python SDK: client.deployments.health(owner, deployment)

Dağıma ping gönderir ve ölçülen gidiş-dönüş gecikmesiyle birlikte durumunu döndürür:

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Uç noktaya hiç ulaşılamadığında sağlıksız yanıt status alanını içermez ve bir error mesajı ekler.

Pano Genel Bakışı

Deploy sayfasındaki toplu sayılar tek bir REST uç noktası olarak kullanılamaz. Bunları, GET /api/deployments/{owner} (client.deployments.list(owner)) tarafından döndürülen her dağıtım için metrik rotasını çağırarak yeniden oluşturabilirsin.

Performans Optimizasyonu#

Dağıtımlarını optimize etmek için izleme verilerini kullan:

Gecikme çok yüksekse:

  1. Model boyutunun uygun olduğunu doğrula
  2. Daha yakın bir bölge kullanmayı değerlendir
  3. Her istekle gönderilen görüntü boyutunu kontrol et
Gecikmeyi Azaltma

Daha küçük bir imgsz değeri dene ve modelin için ortaya çıkan gecikme ile doğruluğu karşılaştır. Ağ gecikmesini azaltmak için çağrıları yapanlara daha yakın bir bölgeye dağıtım yap.

SSS#

  • Prediction statistics and temporary examples, yukarıda açıklanan dilim ve galeri sınırları dahilinde, yalnızca sunum örneğinin ömrü boyunca sürer. Modeli durdurmak, yeniden başlatmak, yeniden dağıtmak, yeniden boyutlandırmak veya değiştirmek bunları silebilir. Yalnızca bir veri kümesine başarıyla kaydedilen örnekler uç noktadan bağımsız olarak kalıcı olur.

    Operational metrics and logs ayrı geçmiş pencerelerine sahiptir. Metrikler API'si, pencere büyüdükçe daha kaba örneklenen 1 saatten 30 güne kadar seçilebilir pencereleri destekler — 1 saat üzerinden 1 dakikalık dilimler, 30 gün üzerinden 4 saate kadar olan dilimler. Dağıtım kartı en son 20 günlük girişini gösterir; günlükler API'si istek başına 200'e kadar giriş döndürebilir ve sayfalamayı destekler.

    Metrikler ve günlükler yalnızca dağıtım mevcut olduğu sürece saklanır; bu nedenle bir dağıtımı silmek geçmişine erişimi de sona erdirir. Bir uç noktayı silmeden önce saklamak istediğin her şeyi dışa aktar.

  • Evet, dağıtımlar sayfası tüm uç noktaları toplu genel bakış kartlarıyla gösterir. Dağıtımlar arasındaki performansı karşılaştırmak için tablo görünümünü kullan.

  • Hayır. Metrikler ve durum kontrolleri yalnızca Ready durumundaki dağıtımlar için toplanır. Durdurulan bir uç nokta kartını ve geçmiş aralığını korur, ancak yeniden başlatana kadar canlı sayı göstermez.

Yorumlar