YOLO26 Modelleri için ONNX Dışa Aktarımı#

Genellikle bilgisayarlı görü modellerini dağıtırken hem esnek hem de birden fazla platformla uyumlu bir model biçimine ihtiyaç duyarsın.

Ultralytics YOLO26 modellerini ONNX biçimine aktarmak, dağıtımı kolaylaştırır ve farklı ortamlarda en iyi performansı sağlar. Bu kılavuz, YOLO26 modellerini ONNX'e kolayca nasıl dönüştüreceğini ve gerçek dünya uygulamalarında ölçeklenebilirliklerini ve etkililiklerini nasıl artıracağını gösterecek.

ONNX ve ONNX Runtime#

Açık Sinir Ağı Değişimi anlamına gelen ONNX, ilk olarak Facebook ve Microsoft tarafından geliştirilen bir topluluk projesidir. ONNX'in devam eden geliştirme çalışmaları IBM, Amazon (AWS aracılığıyla) ve Google gibi çeşitli kuruluşların katkılarıyla yürütülür. Proje, makine öğrenimi modellerini farklı AI çerçeveleri ve donanımlarda kullanılabilecek şekilde temsil etmek için tasarlanmış açık bir dosya biçimi oluşturmayı amaçlar.

ONNX modelleri, farklı çerçeveler arasında sorunsuz geçiş yapmanı sağlar. Örneğin, PyTorch'ta eğitilmiş bir derin öğrenme modeli ONNX biçimine aktarılabilir ve ardından TensorFlow'a kolayca alınabilir.

Alternatif olarak ONNX modelleri ONNX Runtime ile kullanılabilir. ONNX Runtime, PyTorch, TensorFlow, scikit-learn vb. çerçevelerle uyumlu, çok yönlü ve platformlar arası bir makine öğrenimi hızlandırıcısıdır.

ONNX Runtime, donanıma özgü yeteneklerden yararlanarak ONNX modellerinin çalıştırılmasını optimize eder. Bu optimizasyon, modellerin CPU'lar, GPU'lar ve özel hızlandırıcılar dahil olmak üzere çeşitli donanım platformlarında verimli ve yüksek performansla çalışmasını sağlar.

ONNX, tek başına ya da ONNX Runtime ile birlikte kullanıldığında makine öğrenimi model dağıtımı ve uyumluluğu için esnek bir çözüm sunar.

ONNX Modellerinin Temel Özellikleri#

ONNX'in farklı biçimleri işleyebilmesi aşağıdaki temel özelliklerine dayanır:

• Ortak Model Gösterimi: ONNX, ortak bir operatör kümesi (evrişimler, katmanlar vb.) ve standart bir veri biçimi tanımlar. Bir model ONNX biçimine dönüştürüldüğünde mimarisi ve ağırlıkları bu ortak gösterime çevrilir. Bu tutarlılık, ONNX'i destekleyen her çerçevenin modeli anlayabilmesini sağlar.

• Sürümleme ve Geriye Dönük Uyumluluk: ONNX, operatörleri için bir sürümleme sistemi kullanır. Bu sistem, standart geliştikçe eski sürümlerde oluşturulan modellerin kullanılabilir kalmasını sağlar. Geriye dönük uyumluluk, modellerin hızla kullanılamaz hâle gelmesini önleyen önemli bir özelliktir.

• Graf Tabanlı Model Gösterimi: ONNX, modelleri hesaplama grafikleri olarak gösterir. Bu grafik tabanlı yapı, makine öğrenimi modellerini temsil etmenin evrensel bir yoludur; düğümler işlemleri veya hesaplamaları, kenarlar ise aralarında akan tensörleri temsil eder. Bu biçim, modelleri grafikler olarak gösteren çeşitli çerçevelere kolayca uyarlanabilir.

• Araçlar ve Ekosistem: ONNX çevresinde model dönüştürme, görselleştirme ve optimizasyona yardımcı olan zengin bir araç ekosistemi bulunur. Bu araçlar, geliştiricilerin ONNX modelleriyle çalışmasını ve modelleri farklı çerçeveler arasında sorunsuz biçimde dönüştürmesini kolaylaştırır.

ONNX'in Yaygın Kullanım Alanları#

YOLO26 modellerini ONNX biçimine nasıl aktaracağımıza geçmeden önce ONNX modellerinin genellikle nerelerde kullanıldığına göz atalım.

CPU'da Dağıtım#

ONNX modelleri, ONNX Runtime ile uyumlu oldukları için sıklıkla CPU'larda dağıtılır. Bu çalışma zamanı CPU yürütmesi için optimize edilmiştir. Çıkarım hızını önemli ölçüde artırır ve CPU'da gerçek zamanlı dağıtımı mümkün kılar.

Desteklenen Dağıtım Seçenekleri#

ONNX modelleri yaygın olarak CPU'larda kullanılsa da aşağıdaki platformlarda da dağıtılabilir:

• GPU Hızlandırma: ONNX, CUDA aracılığıyla NVIDIA GPU'larda ve ROCm ile MIGraphX aracılığıyla AMD GPU'larda GPU hızlandırmayı tam olarak destekler.

• Uç ve Mobil Cihazlar: ONNX, cihaz üzerinde ve gerçek zamanlı çıkarım senaryoları için ideal olan uç ve mobil cihazlarda da kullanılabilir. Hafiftir, uç donanımlarıyla uyumludur ve Huawei Ascend, Snapdragon cihazları için Qualcomm QNN ve Rockchip NPU'ları için RKNN gibi üreticiye özgü NPU biçimlerinin temelini oluşturur.

• Web Tarayıcıları: ONNX doğrudan web tarayıcılarında çalışarak etkileşimli ve dinamik web tabanlı AI uygulamalarına güç verebilir.

Desteklenen Görevler#

ONNX dışa aktarımı, Ultralytics'in yedi görevinin tümünü destekler. Anlamsal bölümleme ve derinlik tahmini yalnızca bu başlıkları içeren tek model ailesi olan YOLO26'da kullanılabilir.

YOLO26 Modellerini ONNX'e Aktarma#

YOLO26 modellerini ONNX biçimine dönüştürerek model uyumluluğunu ve dağıtım esnekliğini artırabilirsin. Ultralytics YOLO26, farklı platformlarda model performansını önemli ölçüde artırabilecek basit bir dışa aktarma süreci sunar.

Kurulum#

Gerekli paketi yüklemek için şu komutu çalıştır:

# Install the required package for YOLO26
pip install ultralytics

Kurulum sürecine ilişkin ayrıntılı talimatlar ve en iyi uygulamalar için YOLO26 Kurulum kılavuzumuza göz at. YOLO26 için gerekli paketleri yüklerken sorun yaşarsan çözüm ve ipuçları için Yaygın Sorunlar kılavuzumuza başvur.

Kullanım#

Kullanım yönergelerine geçmeden önce Ultralytics'in sunduğu YOLO26 model çeşitlerine göz at. Bu, proje gereksinimlerine en uygun modeli seçmene yardımcı olur.

ONNX biçimi Dışa Aktarma, Tahmin ve Doğrulama modlarını destekler. Modelini dışa aktar, ardından çıkarım yapmak veya doğruluğunu doğrulamak için dışa aktarılan modeli yükle.

from ultralytics import YOLO

# YOLO26 modelini yükle
model = YOLO("yolo26n.pt")

# Modeli ONNX biçimine aktar
model.export(format="onnx")  # 'yolo26n.onnx' oluşturur

# Kalibrasyon verileriyle INT8 nicemlemeli ONNX modeli dışa aktar
model.export(format="onnx", quantize=8, data="coco8.yaml")  # 'yolo26n_int8.onnx' dosyasını oluşturur

from ultralytics import YOLO

# Dışa aktarılan ONNX modelini yükle
model = YOLO("yolo26n.onnx")

# Çıkarımı çalıştır
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Dışa aktarılan ONNX modelini yükle
model = YOLO("yolo26n.onnx")

# COCO8 veri kümesinde doğruluğu doğrula
metrics = model.val(data="coco8.yaml")

Dışa Aktarma Bağımsız Değişkenleri#

YOLO26 modelini ONNX biçimine aktarırken belirli dağıtım gereksinimlerine göre optimizasyon yapmak için çeşitli bağımsız değişkenlerle süreci özelleştirebilirsin:

Dışa aktarma süreci hakkında daha fazla bilgi için Ultralytics dışa aktarma belgeleri sayfasını ziyaret et.

Dışa Aktarılan YOLO26 ONNX Modellerini Dağıtma#

Ultralytics YOLO26 modellerini ONNX biçimine başarıyla aktardıktan sonraki adım, bu modelleri farklı ortamlara dağıtmaktır. ONNX modellerinin dağıtımına ilişkin ayrıntılı talimatlar için aşağıdaki kaynaklara göz at:

• ONNX Runtime Python API Belgeleri: Bu kılavuz, ONNX Runtime kullanarak ONNX modellerini yükleme ve çalıştırma hakkında temel bilgiler sunar.

• Uç Cihazlarda Dağıtım: ONNX modellerini uç cihazlarda dağıtmaya yönelik çeşitli örnekler için bu dokümantasyon sayfasına göz at.

• GitHub'daki ONNX Eğitimleri: Farklı senaryolarda ONNX modellerini kullanmanın ve uygulamanın çeşitli yönlerini kapsayan kapsamlı eğitim koleksiyonu.

• Triton Inference Server: Yüksek performanslı ve ölçeklenebilir dağıtımlar için ONNX modellerini NVIDIA Triton Inference Server ile nasıl dağıtacağını öğren.

MIGraphX ile AMD GPU Çıkarımı#

Ultralytics, dışa aktarılan ONNX modellerini ONNX Runtime MIGraphX yürütme sağlayıcısı aracılığıyla AMD GPU'larda çalıştırır. ROCm (HIP) sisteminde ONNX arka ucu ilk kullanımda onnxruntime-ep-migraphx eklentisini yükler ve kod değişikliği gerektirmeden MIGraphXExecutionProvider seçeneğini otomatik olarak belirler; tüm YOLO26 görevleri desteklenir. Gereksinimler, kurulum, kullanım, karşılaştırma testleri ve derlenmiş program önbelleği hakkında bilgi için AMD GPU çıkarım kılavuzuna göz at.

Özet#

Bu kılavuzda, farklı platformlarda birlikte çalışabilirliği ve performansı artırmak için Ultralytics YOLO26 modellerini ONNX biçimine nasıl aktaracağını öğrendin. Ayrıca ONNX Runtime ve ONNX dağıtım seçenekleriyle tanıştın.

ONNX dışa aktarımı, Ultralytics YOLO26'nın desteklediği birçok dışa aktarma biçiminden yalnızca biridir ve modellerini neredeyse her ortamda dağıtmana olanak tanır. Özel ihtiyaçlarına bağlı olarak en yüksek GPU performansı için TensorRT veya Apple cihazları için CoreML gibi diğer dışa aktarma seçeneklerini de değerlendirebilirsin.

Kullanım hakkında daha fazla bilgi için ONNX'in resmi belgelerini ziyaret et.

Diğer Ultralytics YOLO26 entegrasyonları hakkında daha fazla bilgi edinmek istersen entegrasyon kılavuzu sayfamızı ziyaret et. Orada birçok yararlı kaynak ve bilgi bulabilirsin.

Sık Sorulan Sorular#