Özel Uç Noktalar#

Ultralytics Platform, YOLO modellerini küresel çapta 42 bölgedeki adanmış uç noktalara (endpoint) dağıtman sağlar. Her uç nokta, benzersiz bir uç nokta URL'sine ve bağımsız izlemeye sahip, tek kiracılı (single-tenant) bir servistir. Varsayılan kaynak boyutu boştayken sıfıra ölçeklenir; özel boyutlar ise sıcak bir örnek (instance) tutar ve çalışır süre (uptime) üzerinden ücretlendirilir.

Uç Nokta Oluştur#

Dağıtım Sekmesinden#

Bir modeli kendi Deploy sekmesinden dağıt:

1. Modeline git
2. Deploy sekmesine tıkla
3. Konumundan ölçülen gecikmeye göre sıralanmış dünya haritasını ve bölge tablosunu incele
4. Kullanmak istediğin bölge satırındaki Deploy seçeneğine tıkla
5. İletişim kutusunda CPU'yu, belleği, fiyatlandırmayı ve dağıtım adını incele, ardından Create Deployment düğmesine tıkla

Önerilen isim, model adı ile bölge şehrini birleştirir (örneğin yolo26n-iowa) ve dağıtımdan önce düzenlenebilir. Modelin ağırlıkları olmalıdır, aksi takdirde sekme bölge tablosu yerine boş bir durum gösterir.

Dağıtımlar Sayfasından#

Kenar çubuğundaki genel Deploy sayfasından bir dağıtım oluştur:

1. New Deployment seçeneğine tıkla
2. Tamamladığın modelleri listeleyen model seçiciden bir model seç
3. Mini haritadan veya gecikme tablosundan bir bölge seç
4. CPU ve belleği seç, fiyatlandırmayı incele ve gerekirse önerilen dağıtım adını düzenle
5. Create Deployment düğmesine tıkla

Dağıtım Yaşam Döngüsü#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Service starting
    Deploying --> Ready: Service URL published
    Ready --> Stopping: Stop
    Ready --> Deploying: Replace model
    Stopping --> Stopped: Stopped
    Stopped --> Deploying: Start
    Deploying --> Stopped: Start failed
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

Bir dağıtım hazır olduğunda veya başlatılamadığında mesaj almak için Slack uyarılarını bağla.

Bölge Seçimi#

Dünya genelindeki 42 bölgeden birini seç. Etkileşimli bölge haritası ve tablo şunları gösterir:

• Bölge işaretçileri: Yeşilden kırmızıya uzanan bir gradyan üzerinde gecikmeye göre renklerle kodlanır (daha hızlı bölgeler daha yeşil, daha yavaş bölgeler daha kırmızıdır)
• Dağıtılmış bölgeler: Tabloda "Deployed" rozetiyle vurgulanır
• Dağıtılmakta olan bölgeler: İşaretçi ve tablo satırında animasyonlu darbe göstergesi bulunur
• Çift yönlü vurgulama: Haritanın üzerine geldiğinde tablo satırı, tablo satırının üzerine geldiğinde de harita vurgulanır

Deploy sekmesindeki bölge tablosu şunları içerir:

Tabloda şehir, ülke ve bölge aranabilir; tablo varsayılan olarak gecikmeye göre sıralanır.

Kullanılabilir Bölgeler#

Endpoint Yapılandırması#

Yeni Dağıtım İletişim Kutusu#

New Deployment iletişim kutusu bir model, bölge, kaynaklar ve dağıtım adı seçmene olanak tanır:

Kaynak kontrollerinden CPU ve bellek boyutunu seç ve dağıtımı oluşturmadan önce görüntülenen fiyatlandırmayı incele. Varsayılan boyut, mevcut ücretsiz dağıtım hakkını kullanabilir; özel boyutlar ise ölçülü fiyatlandırma kullanır. Varsayılan boyut boştayken sıfıra ölçeklenir. Özel boyutlar bir sıcak örnek tutar ve uç noktayı durdurana kadar, boştaki süre dahil olmak üzere, kullanıma hazır hale gelmesinden itibaren ücretlendirilir. Agents, New deployment… seçeneğini belirlediğinde bu iletişim kutusunu yeniden kullanır.

Dağıtım Sekmesi (Hızlı Dağıtım)#

Modelin Deploy sekmesinden dağıtım yapmak, model ve bölge önceden seçilmiş olarak aynı iletişim kutusunu açar. Uç noktayı oluşturmadan önce kaynak boyutunu, fiyatlandırmayı ve otomatik olarak oluşturulan adı incele. Dağıtım, oluşturulurken Active Deployments listesinde görünür.

Endpoint'leri Yönetme#

Görünüm Modları#

Dağıtım listesi üç görünüm modunu destekler:

Dağıtım Kartı (Kartlar Görünümü)#

Kartlar görünümündeki her dağıtım kartı şunları gösterir:

• Üstbilgi: Ad, bölge bayrağı, durum rozeti ve mevcut durum için kullanılabilen eylem düğmeleri — Hazır durumundayken yapılandırmayı güncelleme, değiştirme ve durdurma; Durduruldu durumundayken başlatma; herhangi bir zamanda silme
• Endpoint URL'si: Endpoint'in kendi API referansına bağlantı içeren kopyalanabilir URL
• Ölçümler: İstek sayısı (24 sa), P95 gecikmesi, hata oranı veya "Henüz trafik yok"
• Sağlık kontrolü: Gecikme ve manuel yenileme içeren canlı sağlık göstergesi
• Sekmeler: Logs, Code ve Predict; ücretli uç noktalar ayrıca Monitoring değerini gösterir
• Alt bilgi: Dağıtıma bağlı API anahtarı ön eki ve dağıtımın hazır olduğu tarih
• Durum mesajı: Dağıtım başarısız olduğunda başarısızlık nedeni

URL, ölçümler, sağlık kontrolü ve sekmeler yalnızca dağıtım Hazır durumundayken görünür. Logs sekmesi, önem derecesine göre filtreleme (Tümü / Hatalar) içeren son günlük kayıtlarını gösterir. Code sekmesi, endpoint URL'nizi içeren Python, JavaScript ve cURL dillerinde kullanıma hazır kod örneklerinin yanı sıra çalışma alanı sahipleri için bağlı API anahtarını gösterir (İzleme bölümüne bakın). Predict sekmesi, doğrudan dağıtım üzerinde test yapmak için satır içi bir tahmin paneli sağlar.

CPU ve Bellek değerlerini güncelle#

1. Kartlar görünümünde Hazır bir uç nokta aç.
2. Dağıtım yapılandırmasını güncelle öğesine tıkla.
3. CPU ve Bellek seçimini yapıp görüntülenen saatlik maliyeti gözden geçir.
4. Yapılandırmayı Güncelle öğesine tıkla. Yeni yapılandırma hazır olana kadar mevcut yapılandırma hizmet vermeye devam eder.

Özel kaynaklar çalışma süresi faturalandırması kullanır ve bir örneği sıcak tutar. Varsayılan kaynaklara geri dönmek, sıfıra ölçekleme davranışını geri yükler ve ücretli İzleme sekmesini kaldırır.

Modeli Değiştirme#

URL'sini değiştirmeden hazır bir endpoint'in arkasındaki modeli değiştir:

1. Kartlar görünümünde dağıtımı aç
2. Modeli değiştir seçeneğine tıkla
3. Aynı çalışma alanından başka bir tamamlanmış model seç
4. İsteğe bağlı olarak dağıtım adını düzenle
5. Modeli Değiştir seçeneğine tıkla

Değiştirme başlatılırken mevcut model hizmet sunmaya devam eder. Değiştirilen model hazır olduğunda trafik yeni modele yönlendirilir. Dağıtım kimliği, URL, bölge ve API anahtarı değişmeden kalır; görünen adı yalnızca yeni bir ad girersen değişir. Değiştirme başarısız olursa önceki model ve ad etkin kalır.

Değiştirme için aşağıdakilerin tümü gerekir; aksi takdirde istek reddedilir:

• Dağıtım Hazır durumunda olmalı ve devam eden başka bir yaşam döngüsü işlemi bulunmamalıdır
• Değiştirilen model ağırlıklara sahip olmalı ve dağıtımla aynı çalışma alanına ait olmalıdır
• Değiştirilen model, hâlihazırda dağıtılmış olan model olmamalıdır

Dağıtım Durumları#

Endpoint URL'si#

Her endpoint'in benzersiz bir URL'si vardır, örneğin:

https://predict-<deployment-id>-<hash>-<region>.a.run.app

URL'yi kopyalamak için kopyala düğmesine tıkla. Uç noktanın kendi API referansını açmak için docs simgesine tıkla. Uç nokta şu yollara hizmet eder:

Yaşam Döngüsü Yönetimi#

Endpoint durumunu kontrol et:

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

Uç Noktayı Durdur#

İstekleri kabul etmesini istemediğinde bir uç noktayı durdur:

1. Dağıtım kartındaki duraklatma simgesine tıkla
2. Uç noktanın durumu önce "Durduruluyor", ardından "Durduruldu" olarak değişir

Durdurulan uç noktalar:

• İstekleri kabul etme ve canlı metrikler veya sağlık durumu bildirmeme
• Çalışma süresi ücretlerinin birikmesini durdurma
• Sunucu örneği kapandığında geçici izleme istatistiklerini ve örnek görselleri kaybetme
• URL'lerini, bölgelerini ve bağlı API anahtarlarını korur ve istendiği zaman yeniden başlatılabilir
• Planının dağıtım kotasına dahil olmaya devam eder — kontenjanını boşaltmak için bir uç noktayı sil

Uç Noktayı Sil#

Bir uç noktayı kalıcı olarak kaldır:

1. Dağıtım kartındaki silme (çöp kutusu) simgesine tıkla
2. İletişim kutusunda silme işlemini onayla

Modeli veya projesi kalıcı olarak silindiğinde ya da çöp kutusuna taşınmış bir model veya proje saklama süresinin sonuna ulaştığında dağıtımlar da kaldırılır.

Uç Noktaları Kullanma#

Kimlik Doğrulama#

Her dağıtım, modele sahip çalışma alanındaki tek bir API anahtarına bağlanır. Bu anahtarı isteklere ekle:

Authorization: Bearer YOUR_API_KEY

Uç nokta yalnızca oluşturma sırasında bağlanan anahtarı kabul eder; bu nedenle başka hiçbir anahtar onu açamaz — aynı çalışma alanındaki başka bir etkin anahtar bile. Hangi anahtarın bağlanacağını kontrol etmek için çalışma alanı sahibinin anahtarıyla kimlik doğrulaması yapılmış API üzerinden dağıtım yap: tam olarak bu anahtar bağlanır ve anahtar zaten elindedir. Başka yollarla oluşturulan dağıtımlar (Platform kullanıcı arayüzü veya ekip üyesi olarak kimlik doğrulaması yapılmış bir API çağrısı) sahip çalışma alanının etkin anahtarlarından birini otomatik olarak bağlar — dağıtım kartının alt bilgisinde gösterilen anahtar ön ekiyle bunu belirle ve değerini çalışma alanı sahibinden iste; çünkü anahtar değerlerini yalnızca sahip görüntüleyebilir (API Anahtarları bölümüne bak). Bağlı anahtara sahip olmayan ekip üyeleri, tarayıcıdaki Platform tahmin proxy'si üzerinden yine de çıkarım çalıştırabilir.

Doğrudan Uç Nokta İstekleri#

Üretim isteklerini doğrudan dağıtım kartında gösterilen URL'ye gönder. Bu istekler Platform API hız sınırlayıcısından geçmez; bu nedenle dakikada 20 istek tahmin sınırı uygulanmaz. Uç noktanın yine de kendi kapasite sınırı vardır:

• Her uç noktaya tek bir örnek hizmet verir ve aynı anda sınırlı sayıda isteği işler
• Hızlı bir şekilde sunulamayan istekler 429 döndürür ve Retry-After başlığı içerir
• Tek bir istek 1 saate kadar çalışabilir; bu da video çıkarımının tamamlanmasını sağlar
• 1 KB'tan büyük yanıtlar gzip ile sıkıştırılır ve kaynaklar arası tarayıcı isteklerine izin verilir

İstek Örneği#

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

İstek Parametreleri#

bits değerinin döndürülen derinlik haritasını nasıl değiştirdiğini ve haritanın kodunun nasıl çözüleceğini Derinlik yanıtları bölümünde bulabilirsin.

Yanıt Biçimi#

Göreve özgü alanlarla birlikte paylaşılan çıkarım ile aynıdır.

SSS#