YOLO26 Dağıtım Seçeneklerinin Karşılaştırmalı Analizi#
YOLO26, her biri farklı bir çalışma zamanı, donanım hedefi veya platform için ayarlanmış 20'den fazla dağıtım seçeneğini destekler — PyTorch ve ONNX'ten TensorRT, OpenVINO, CoreML ve özel uç-NPU formatlarına kadar. Doğru seçimi yapmak; çıkarım hızını, donanım kısıtlamalarını ve entegrasyon kolaylığını dengeler. Bu kılavuz, uygulaman için en uygun seçeneği belirleyebilmen amacıyla tüm seçenekleri karşılaştırır; ardından güvenilir bir dağıtım için model dağıtımı en iyi uygulamaları konusuna geçebilirsin.
Watch: How to Choose the Best Ultralytics YOLO26 Deployment Format for Your Project | TensorRT | OpenVINO 🚀
Dağıtım, eğitilmiş bir modelin gerçek iş yapmaya başladığı bilgisayarlı görü projesi iş akışının aşamasıdır; bu nedenle dışa aktardığın format hız, maliyet ve taşınabilirlik üzerinde doğrudan etkiye sahiptir.
YOLO26 Modelin İçin Doğru Dağıtım Seçeneğini Belirleme#
YOLO26 modelini dağıtma zamanı geldiğinde uygun bir dışa aktarma formatı seçmek çok önemlidir. Ultralytics YOLO26 dışa aktarma belgelerinde açıklandığı gibi, model.export() işlevi, eğitilmiş modelini çeşitli ortamlar ve performans gereksinimleri için uyarlanmış çeşitli formatlara dönüştürür.
İdeal format, modelinin amaçlanan çalışma bağlamına ve donanımına bağlıdır.
Manuel dışa aktarma olmadan yönetilen dağıtım için Ultralytics Platform, 42 global bölgede otomatik ölçeklendirme özelliğine sahip kullanıma hazır çıkarım uç noktaları sunar.
YOLO26'nın Dağıtım Seçenekleri#
Burada her formatın kısa bir açıklamasını ve hangi durumlarda tercih edileceğini bulabilirsin. Eksiksiz dışa aktarma adımları için dışa aktarma belgelerine, yan yana karşılaştırma ölçütleri için ise karşılaştırma tablosuna bakabilirsin.
- PyTorch (
.pt): Yerel eğitim ve çıkarım formatıdır; NVIDIA CUDA veya AMD ROCm üzerinden maksimum esneklik ve GPU hızlandırması sunar — dışa aktarma adımı gerektirmediğinden araştırma ve prototip oluşturma için idealdir. - TorchScript (
torchscript): Modeli Python gerektirmeyen bir C++ çalışma zamanı için serileştirir; Python'ın kullanılamadığı üretim sistemleri için uygundur. - ONNX (
onnx): ONNX Runtime aracılığıyla geniş platformlar arası ve donanım desteği sunan, çerçeveden bağımsız bir değişim formatıdır. - OpenVINO (
openvino): IoT ve uç bilişim uygulamalarında yaygın olarak kullanılan, Intel CPU'ları, tümleşik GPU'ları ve NPU'larda optimize edilmiş çıkarım için Intel'in araç setidir. - TensorRT (
engine): FP16 ve INT8 optimizasyonuyla üst düzey GPU çıkarımı sunan NVIDIA'nın yüksek performanslı çalışma zamanıdır. - CoreML (
coreml): Apple Neural Engine'i kullanan, iOS, macOS, watchOS ve tvOS için Apple'ın cihaz içi formatıdır. - TF SavedModel (
saved_model): TensorFlow Serving ile ölçeklenebilir sunucu tarafı model sunumu için TensorFlow'un standart formatıdır. - TF GraphDef (
pb): Sabit bir hesaplama grafiğine ihtiyaç duyan ortamlar için dondurulmuş statik grafik TensorFlow formatıdır. - TF Edge TPU (
edgetpu):.tflitemodellerini Google Coral Edge TPU hızlandırıcıları için derler. - LiteRT (
litert): Tek bir.tflitemodelinden mobil, gömülü sistem ve tarayıcı çıkarımı için Google'ın cihaz içi çalışma zamanıdır (eski adı TensorFlow Lite); FP32 ve INT8 desteği ile LiteRT.js üzerinden tarayıcı içi çalıştırma sunar. - PaddlePaddle (
paddle): Çin'de popüler olan ve geniş donanım desteği sunan Baidu'nun derin öğrenme çerçevesidir. - MNN (
mnn): Mobil ve gömülü ARM ile x86-64 sistemler için optimize edilmiş, hafif ve yüksek performanslı bir çıkarım motorudur. - NCNN (
ncnn): Mobil ARM cihazlar için ayarlanmış, yüksek performanslı ve hafif bir çıkarım çerçevesidir. - Sony IMX500 (
imx): Raspberry Pi AI Camera gibi, çip üzerinde işlemeye sahip Sony IMX500 akıllı görüntü sensörü için dışa aktarma seçeneğidir. - Rockchip RKNN (
rknn): FP16 ve INT8 niceleme özelliğine sahip gömülü kartlardaki Rockchip NPU'larını hedefler. - ExecuTorch (
executorch): XNNPACK aracılığıyla mobil (iOS ve Android) ve gömülü sistemler için PyTorch'un yerel cihaz içi çalışma zamanıdır. - Axelera AI (
axelera): Yüksek verimli uç çıkarımı için PCIe veya M.2 üzerinden Axelera'nın Metis AIPU'su (856 TOPS'a kadar) için derleme yapar. - DEEPX (
deepx): Gömülü uç çıkarımı için INT8 nicelemeli DEEPX NPU donanımını hedefler. - Qualcomm QNN (
qnn): Qualcomm AI yığını üzerinden Snapdragon Hexagon NPU, Adreno GPU ve CPU üzerinde cihaz içi çıkarım sunar. - Temel Yapay Zeka (
coreai): Apple'ın iOS 27 ve macOS 27 için yeni.aimodelformatı; CPU, GPU ve Apple Neural Engine üzerinde planlanmıştır; dışa aktarım, Apple silikon üzerinde macOS 26 veya üstünü gerektirir.
Hailo entegrasyonu, YOLO algılama, segmentasyon, anlamsal segmentasyon, derinlik tahmini, sınıflandırma, poz ve OBB modellerini doğrudan Hailo HEF'ye aktarır; doğrulanmış modeller ve hedefler için uyumluluk tablosuna bakabilirsin. Ambarella entegrasyonu, ONNX öncelikli bir iş akışını izler ve ONNX dışa aktarımlarını, SpongeTorch sıkıştırma farkındalıklı eğitim isteğe bağlı olarak kullanılarak, CV72 gibi CVflow® SoC'ler için Ambarella'nın CVflow araç zinciriyle AmbaPB formatına derler. Huawei Ascend entegrasyonu, FP16 çıkarımı için CANN ATC derleyicisiyle ONNX dışa aktarımlarını .om çevrim dışı formatına derler.
Dağıtım Seçeneklerinin Karşılaştırması#
Aşağıdaki tablo, genellikle seçimi belirleyen ölçütler kapsamında YOLO26 modellerinin dağıtım seçeneklerini özetler. Her formatın ayrıntılı incelemesi için dışa aktarma formatları belgelerine bakabilirsin.
| Dağıtım Seçeneği | Performans Karşılaştırmaları | Uyumluluk ve Entegrasyon | Topluluk Desteği ve Ekosistem | Örnek Olaylar | Bakım ve Güncellemeler | Güvenlik Hususları | Donanım Hızlandırma |
|---|---|---|---|---|---|---|---|
| PyTorch | İyi esneklik; ham performanstan ödün verebilir | Python kitaplıklarıyla mükemmel uyumluluk | Kapsamlı kaynaklar ve topluluk | Araştırma ve prototipler | Düzenli ve etkin geliştirme | Dağıtım ortamına bağlıdır | GPU hızlandırması için CUDA desteği |
| TorchScript | PyTorch'a göre üretim için daha uygun | PyTorch'tan C++'a sorunsuz geçiş | PyTorch'a göre daha uzmanlaşmış ancak daha dar kapsamlı | Python'ın darboğaz olduğu sektörler | PyTorch ile tutarlı güncellemeler | Tam Python olmadan iyileştirilmiş güvenlik | CUDA desteğini PyTorch'tan devralır |
| ONNX | Çalışma zamanına bağlı olarak değişir | Farklı çerçeveler arasında yüksek uyumluluk | Birçok kuruluş tarafından desteklenen geniş ekosistem | ML çerçeveleri arasında esneklik | Yeni işlemler için düzenli güncellemeler | Güvenli dönüştürme ve dağıtım uygulamalarını güvence altına al | Çeşitli donanım optimizasyonları |
| OpenVINO | Intel donanımı için optimize edilmiştir | Intel ekosistemi içinde en iyi performans | Bilgisayarlı görü alanında güçlüdür | Intel donanımıyla IoT ve uç bilişim | Intel donanımı için düzenli güncellemeler | Hassas uygulamalar için sağlam özellikler | Intel donanımı için uyarlanmıştır |
| TensorRT | NVIDIA GPU'larında üst düzey performans | NVIDIA donanımı için en iyisi | NVIDIA üzerinden güçlü ağ | Gerçek zamanlı video ve görüntü çıkarımı | Yeni GPU'lar için sık güncellemeler | Güvenliğe vurgu | NVIDIA GPU'ları için tasarlanmıştır |
| CoreML | Cihaz içi Apple donanımı için optimize edilmiştir | Apple ekosistemiyle sınırlıdır | Güçlü Apple ve geliştirici desteği | Apple ürünlerinde cihaz içi ML | Düzenli Apple güncellemeleri | Gizlilik ve güvenliğe odaklanır | Apple Neural Engine ve GPU |
| TF SavedModel | Sunucu ortamlarında ölçeklenebilir | TensorFlow ekosisteminde geniş uyumluluk | TensorFlow'un popülerliği sayesinde geniş destek | Modelleri büyük ölçekte sunma | Google ve topluluk tarafından düzenli güncellemeler | Kurumsal kullanım için sağlam özellikler | Çeşitli donanım hızlandırmaları |
| TF GraphDef | Statik hesaplama grafikleri için kararlı | TensorFlow altyapısıyla iyi entegre olur | Statik grafikleri optimize etmek için kaynaklar | Statik grafik gerektiren senaryolar | TensorFlow çekirdeğiyle birlikte güncellenir | Yerleşik TensorFlow güvenlik uygulamaları | TensorFlow hızlandırma seçenekleri |
| TF Edge TPU | Google'ın Edge TPU donanımı için optimize edilmiştir | Yalnızca Edge TPU cihazlarına özeldir | Google ve üçüncü taraf kaynaklarıyla büyüyor | Gerçek zamanlı işlem gerektiren IoT cihazları | Yeni Edge TPU donanımı için iyileştirmeler | Google'ın güçlü IoT güvenliği | Google Coral için özel olarak tasarlanmıştır |
| LiteRT | Mobilde, gömülü sistemlerde ve web'de hız ve verimlilik | Mobil, gömülü, uç ve tarayıcı desteği | Güçlü topluluk, Google desteği | Android, iOS ve web genelinde cihaz üzeri uygulamalar | En yeni cihaz üzeri çalışma zamanı özellikleri | Cihaz üzerinde ve tarayıcı içinde güvenli çıkarım | GPU, DSP ve WebGPU hızlandırması |
| PaddlePaddle | Rekabetçi, kullanımı kolay ve ölçeklenebilir | Baidu ekosistemi, geniş uygulama desteği | Özellikle Çin'de hızla büyüyor | Çin pazarı ve dil işleme | Çin merkezli AI uygulamalarına odaklanır | Veri gizliliğini ve güvenliğini öne çıkarır | Baidu'nun Kunlun çipleri dahil |
| MNN | Mobil cihazlar için yüksek performans | Mobil ve gömülü ARM sistemleri ile X86-64 CPU | Mobil/gömülü ML topluluğu | Mobil sistemlerde verimlilik | Mobil cihazlarda yüksek performansın sürdürülmesi | Cihaz üzeri güvenlik avantajları | ARM CPU'ları ve GPU'ları için optimizasyonlar |
| NCNN | ARM tabanlı mobil cihazlar için optimize edilmiştir | Mobil ve gömülü ARM sistemleri | Niş ancak aktif mobil/gömülü ML topluluğu | Android ve ARM sistemlerinde verimlilik | ARM üzerinde yüksek performansın sürdürülmesi | Cihaz üzeri güvenlik avantajları | ARM CPU'ları ve GPU'ları için optimizasyonlar |
| Sony IMX500 | Çok düşük güç tüketimiyle sensör üzerinde çıkarım | Sony IMX500 sensörü, Raspberry Pi AI Camera | Sony AITRIOS ekosistemi | Kamera üzerinde uç AI | Sony SDK ve MCT araç zinciri güncellemeleri | Veriler sensörde kalır | Sony IMX500 çip üzeri hızlandırıcısı |
| Rockchip RKNN | Rockchip NPU'ları için optimize edilmiştir | Rockchip SoC kartları (ör. RK3588) | Rockchip geliştirici topluluğu | Gömülü SBC ve uç cihazlar | Rockchip RKNN-Toolkit güncellemeleri | Cihaz üzerinde yerel çıkarım | Rockchip NPU |
| ExecuTorch | Verimli cihaz üzeri PyTorch çalışma zamanı | XNNPACK aracılığıyla iOS, Android ve gömülü sistemler | PyTorch projesi tarafından desteklenir | Mobil ve gömülü uygulamalar | PyTorch ile birlikte bakımı yapılır | Cihaz üzeri çıkarım verileri yerel tutar | XNNPACK ve mobil CPU/GPU arka uçları |
| Axelera AI | Çok yüksek iş hacmi (856 TOPS'a kadar) | PCIe veya M.2 üzerinden Metis AIPU | Axelera Voyager SDK | Yüksek iş hacimli uç çıkarımı | Axelera SDK güncellemeleri | Şirket içi uç çıkarımı | Axelera Metis AIPU |
| DEEPX | INT8 için optimize edilmiş NPU çıkarımı | DEEPX NPU donanımı | DEEPX geliştirici araçları (dx_com, dx_engine) | Gömülü uç çıkarımı | DEEPX SDK ve çalışma zamanı güncellemeleri | Cihaz üzerinde yerel çıkarım | DEEPX NPU |
| Qualcomm QNN | Hızlı cihaz üzeri Snapdragon çıkarımı | Snapdragon Hexagon NPU, Adreno GPU, CPU | Qualcomm AI Hub ekosistemi | Mobil ve uç Snapdragon cihazları | Qualcomm AI yığını (QAIRT) güncellemeleri | Cihaz üzeri çıkarım verileri yerel tutar | Snapdragon Hexagon NPU |
| Hailo | Hailo NPU'larda INT8 HEF çıkarımı | Hailo-8/8L/10H/15H/15L, Raspberry Pi AI HAT+ | Hailo Veri Akışı Derleyicisi ve HailoRT | Kameralar, robotlar, endüstriyel uç sistemleri | Hailo DFC ve HailoRT sürümleri | Cihaz üzerinde yerel çıkarım | Hailo NPU |
| Huawei Ascend | Ascend AI Core üzerinde daha yüksek veri çıkışı | Atlas kartları ve OrangePi AIPro | Huawei CANN ekosistemi | Ascend NPU'larda uç çıkarımı | CANN ve ATC sürümleri | Cihaz üzerinde yerel çıkarım | Ascend AI Core |
| Core AI | Apple silikon için optimize edilmiştir | iOS 27 ve macOS 27; dışa aktarım macOS 26+ gerektirir | Apple çerçevesi; henüz iOS/Flutter SDK'larında yok | Yeni nesil Apple platformlarında cihaz üstü ML | Apple işletim sistemi sürümlerine bağlıdır; şu anda beta aşamasındadır | Cihaz üzeri çıkarım verileri yerel tutar | Apple Neural Engine, GPU ve CPU |
Bu karşılaştırma sana genel bir bakış sunar. Dağıtım için projenin özel gereksinimlerini ve kısıtlamalarını her seçeneğe göre değerlendir ve seçtiğin formatla ilgili bağlantılı entegrasyon kılavuzuna başvur.
Sonuç#
YOLO26'nın geniş dışa aktarma formatı yelpazesi, bir bulut GPU sunucusundan sensör üzerindeki uç kameraya kadar modeli neredeyse her ortama uyarlamana olanak tanır. Bir format seçtikten sonra optimizasyon, sorun giderme ve güvenlik için model dağıtımı en iyi uygulamalarını takip et ve bir sorunla karşılaştığında Ultralytics topluluğundan destek al.
SSS#
Ultralytics YOLO26, her biri belirli ortamlar ve donanım platformları için tasarlanmış çeşitli dağıtım formatlarını destekler. Başlıca formatlar şunlardır:
- Araştırma ve prototip oluşturma için mükemmel Python entegrasyonuna sahip PyTorch.
- Python'ın kullanılamadığı üretim ortamları için TorchScript.
- Platformlar arası uyumluluk ve donanım hızlandırması için ONNX.
- Intel donanımında optimize edilmiş performans için OpenVINO.
- NVIDIA GPU'larında yüksek hızlı çıkarım için TensorRT.
Her formatın kendine özgü avantajları vardır. Ayrıntılı bir uygulamalı anlatım için dışa aktarma işlemi belgelerimize bak.
Intel CPU'larda çıkarım hızını artırmak için YOLO26 modelini Intel'in OpenVINO araç setini kullanarak dağıtabilirsin. OpenVINO, modelleri Intel donanımından verimli şekilde yararlanacak biçimde optimize ederek önemli performans artışları sağlar.
- YOLO26 modelini
model.export()işlevini kullanarak OpenVINO formatına dönüştür. - Ayrıntılı kurulum kılavuzu için Intel OpenVINO Dışa Aktarma belgelerindeki adımları izle.
Daha fazla bilgi için blog yazımıza göz at.
- YOLO26 modelini
Evet, YOLO26 modelleri Android için LiteRT (eski adıyla TensorFlow Lite) ve NCNN, iOS içinse CoreML veya LiteRT kullanılarak mobil cihazlara dağıtılabilir. LiteRT, Google'ın mobil ve gömülü cihazlara yönelik cihaz içi çalışma zamanıdır; aynı modeli Android, iOS ve tarayıcıda çalıştırarak cihaz üzerinde verimli çıkarım sağlar.
Örnek# Export command for NCNN format model.export(format="ncnn")Modelleri mobil cihazlara dağıtma hakkında daha fazla ayrıntı için LiteRT entegrasyon kılavuzumuza başvur.
YOLO26 için dağıtım formatı seçerken aşağıdaki faktörleri göz önünde bulundur:
- Performans: TensorRT gibi bazı formatlar NVIDIA GPU'larında olağanüstü hızlar sağlarken OpenVINO, Intel donanımı için optimize edilmiştir.
- Uyumluluk: ONNX, farklı platformlar arasında geniş uyumluluk sunar.
- Entegrasyon Kolaylığı: CoreML veya LiteRT gibi formatlar sırasıyla iOS ve Android gibi belirli ekosistemler için tasarlanmıştır.
- Topluluk Desteği: PyTorch ve TensorFlow gibi formatlar kapsamlı topluluk kaynaklarına ve desteğine sahiptir.
Karşılaştırmalı bir analiz için dışa aktarma formatları belgelerimize başvur.
YOLO26 modellerini bir web uygulamasında dağıtmak için, makine öğrenimi modellerini doğrudan tarayıcıda ve Node.js'te çalıştırmaya olanak tanıyan LiteRT'nin web çalışma zamanı LiteRT.js'i kullanabilirsin. Bu yaklaşım, arka uç altyapısı gereksinimini ortadan kaldırır ve gerçek zamanlı performans sağlar.
- YOLO26 modelini LiteRT formatına aktar.
- Aktarılan modeli LiteRT.js kullanarak web uygulamana entegre et.
Adım adım talimatlar için LiteRT entegrasyon kılavuzumuza başvur.