YOLO26 Dağıtım Seçeneklerinin Karşılaştırmalı Analizi#
YOLO26, PyTorch ve ONNX ile TensorRT, OpenVINO, CoreML ve özel uç NPU biçimlerine kadar farklı bir çalışma zamanına, donanım hedefine veya platforma göre ayarlanmış 20'den fazla dağıtım seçeneğini destekler. Doğru seçimi yapmak; çıkarım hızını, donanım kısıtlamalarını ve entegrasyon kolaylığını dengeler. Bu kılavuz, uygulamanın için en uygun olanı seçebilmen amacıyla tüm seçenekleri karşılaştırır; ardından modeli güvenilir bir şekilde dağıtmak için model dağıtım en iyi uygulamaları bölümüne geçebilirsin.
Watch: How to Choose the Best Ultralytics YOLO26 Deployment Format for Your Project | TensorRT | OpenVINO 🚀
Dağıtım, eğitilmiş bir modelin gerçek işleri yapmaya başladığı bilgisayarlı görü proje iş akışı aşamasıdır; bu nedenle dışarı aktardığın biçim hız, maliyet ve taşınabilirlik üzerinde doğrudan etkiye sahiptir.
YOLO26 Modelin İçin Doğru Dağıtım Seçeneği Nasıl Seçilir#
YOLO26 modelini dağıtma zamanı geldiğinde, uygun bir dışarı aktarma biçimi seçmek çok önemlidir. Ultralytics YOLO26 dışarı aktarma belgelerinde belirtildiği gibi, model.export() işlevi, eğitilmiş modelini farklı ortamlara ve performans gereksinimlerine göre uyarlanmış çeşitli biçimlere dönüştürür.
İdeal format, modelinin hedeflenen operasyonel bağlamına ve donanımına bağlıdır.
Manuel dışarı aktarma gerektirmeyen yönetilen dağıtımlar için Ultralytics Platform, 42 küresel bölgede otomatik ölçeklendirme özelliğine sahip, kullanıma hazır çıkarım uç noktaları sunar.
YOLO26'nın Dağıtım Seçenekleri#
İşte her biçimin kısa bir açıklaması ve ne zaman tercih edilmesi gerektiği. Adım adım dışarı aktarma rehberi için dışarı aktarma belgelerine göz atabilir; yan yana kriterler için karşılaştırma tablosuna geçebilirsin.
- PyTorch (
.pt): Ek bir dışarı aktarma adımına gerek kalmadan araştırma ve prototip oluşturma için ideal olan; NVIDIA CUDA veya AMD ROCm aracılığıyla maksimum esneklik ve GPU hızlandırması sunan yerel eğitim ve çıkarım biçimidir. - TorchScript (
torchscript): Python'un bulunmadığı üretim sistemleri için uygun olacak şekilde, Python içermeyen bir C++ çalışma zamanı için modeli serileştirir. - ONNX (
onnx): ONNX Runtime aracılığıyla geniş çaplı platformlar arası ve donanım desteği sunan, çerçeveden bağımsız bir değişim biçimidir. - OpenVINO (
openvino): Intel CPU'larda, entegre GPU'larda ve NPU'larda optimize edilmiş çıkarım için Intel'in araç seti olup, IoT ve uç bilişimde yaygın olarak kullanılır. - TensorRT (
engine): FP16 ve INT8 optimizasyonu ile en üst düzey GPU çıkarımı sağlayan NVIDIA'nın yüksek performanslı çalışma zamanıdır. - CoreML (
coreml): Apple Neural Engine'i kullanan iOS, macOS, watchOS ve tvOS için Apple'ın cihaz üzerinde çalışan biçimidir. - TF SavedModel (
saved_model): TensorFlow Serving ile ölçeklenebilir sunucu taraflı sunum için TensorFlow'un standart biçimidir. - TF GraphDef (
pb): Sabit bir hesaplama grafiğine ihtiyaç duyan ortamlar için dondurulmuş, statik grafikli bir TensorFlow biçimidir. - TF Edge TPU (
edgetpu): Google Coral Edge TPU hızlandırıcıları için.tflitemodellerini derler. - LiteRT (
litert): Tek bir.tflitemodelinden mobil, gömülü ve tarayıcı içi çıkarım yapabilen, FP32 ve INT8 desteği ile LiteRT.js aracılığıyla tarayıcı içinde çalıştırma imkanı sunan Google'ın cihaz üstü çalışma zamanıdır (eski adıyla TensorFlow Lite). - PaddlePaddle (
paddle): Çin'de popüler olan ve geniş donanım desteğine sahip Baidu derin öğrenme çerçevesidir. - MNN (
mnn): Mobil ve gömülü ARM ile x86-64 sistemleri için optimize edilmiş, hafif ve yüksek performanslı bir çıkarım motorudur. - NCNN (
ncnn): Mobil ARM cihazları için ayarlanmış, yüksek performanslı ve hafif bir çıkarım çerçevesidir. - Sony IMX500 (
imx): Raspberry Pi AI Camera gibi, çip üstü işleme özelliğine sahip Sony'nin IMX500 akıllı vizyon sensörü için dışarı aktarımlar sağlar. - Rockchip RKNN (
rknn): FP16 ve INT8 nicelemesi ile gömülü kartlar üzerindeki Rockchip NPU'larını hedefler. - ExecuTorch (
executorch): PyTorch'un mobil (iOS ve Android) ile XNNPACK aracılığıyla gömülü sistemler için tasarladığı yerel cihaz üstü çalışma zamanıdır. - Axelera AI (
axelera): Yüksek verimli uç çıkarımı için PCIe veya M.2 üzerinden Axelera'nın Metis AIPU (856 TOPS'a kadar) donanımı için derleme yapar. - DEEPX (
deepx): Gömülü uç çıkarımı için INT8 nicelemesi ile DEEPX NPU donanımını hedefler. - Qualcomm QNN (
qnn): Qualcomm AI yığını aracılığıyla Snapdragon Hexagon NPU, Adreno GPU ve CPU üzerinde cihaz içi çıkarım gerçekleştirir.
Hailo entegrasyonu; YOLO tespit, segmentasyon, anlamsal segmentasyon, derinlik tahmini, sınıflandırma, poz ve OBB modellerini doğrudan Hailo HEF formatına dışarı aktarır; onaylanmış modeller ve hedefler için uyumluluk tablosuna göz atabilirsin. Ambarella entegrasyonu ONNX öncelikli bir iş akışı izler ve CV72 gibi CVflow® SoC'ler için Ambarella'nın CVflow araç zinciri ile (isteğe bağlı olarak SpongeTorch sıkıştırma farkındalıklı eğitimi kullanarak) ONNX dışarı aktarımlarını AmbaPB formatına derler. Huawei Ascend entegrasyonu, Ascend AI İşlemcilerinde FP16 çıkarımı yapmak için CANN ATC derleyicisi ile ONNX dışarı aktarımlarını .om çevrimdışı formatına derler.
Dağıtım Seçenekleri Karşılaştırması#
Aşağıdaki tablo, tercihi genellikle yönlendiren kriterler doğrultusunda YOLO26 modellerine yönelik dağıtım seçeneklerini özetler. Her biçim hakkında derinlemesine bilgi almak için dışarı aktarma biçimleri belgelerine göz atabilirsin.
| Dağıtım Seçeneği | Performans Karşılaştırmaları | Uyumluluk ve Entegrasyon | Topluluk Desteği ve Ekosistem | Örnek Olaylar | Bakım ve Güncellemeler | Güvenlik Hususları | Donanım Hızlandırma |
|---|---|---|---|---|---|---|---|
| PyTorch | İyi esneklik; ham performanstan ödün verebilir | Python kütüphaneleriyle mükemmel | Kapsamlı kaynaklar ve topluluk | Araştırma ve prototipler | Düzenli, aktif geliştirme | Dağıtım ortamına bağlı | GPU hızlandırma için CUDA desteği |
| TorchScript | Üretim için PyTorch'tan daha iyi | PyTorch'tan C++'a sorunsuz geçiş | Özelleşmiş ancak PyTorch'tan daha dar | Python'ın darboğaz olduğu endüstri | PyTorch ile tutarlı güncellemeler | Tam Python olmadan gelişmiş güvenlik | CUDA desteğini PyTorch'tan devralır |
| ONNX | Çalışma zamanına bağlı olarak değişken | Farklı çerçeveler arasında yüksek | Geniş ekosistem, birçok kuruluş tarafından destekleniyor | ML çerçeveleri arasında esneklik | Yeni işlemler için düzenli güncellemeler | Güvenli dönüştürme ve dağıtım uygulamaları sağla | Çeşitli donanım optimizasyonları |
| OpenVINO | Intel donanımı için optimize edilmiştir | Intel ekosistemi içinde en iyisi | Bilgisayarlı görme alanında sağlam | Intel donanımı ile IoT ve uç | Intel donanımı için düzenli güncellemeler | Hassas uygulamalar için sağlam özellikler | Intel donanımı için özel olarak hazırlanmıştır |
| TensorRT | NVIDIA GPU'larında üst düzey | NVIDIA donanımı için en iyisi | NVIDIA aracılığıyla güçlü ağ | Gerçek zamanlı video ve görüntü çıkarımı | Yeni GPU'lar için sık güncellemeler | Güvenliğe vurgu | NVIDIA GPU'ları için tasarlandı |
| CoreML | Cihaz üzerinde Apple donanımı için optimize edilmiştir | Apple ekosistemine özel | Güçlü Apple ve geliştirici desteği | Apple ürünlerinde cihaz üzerinde ML | Düzenli Apple güncellemeleri | Gizlilik ve güvenliğe odaklan | Apple sinir motoru ve GPU |
| TF SavedModel | Sunucu ortamlarında ölçeklenebilir | TensorFlow ekosisteminde geniş uyumluluk | TensorFlow popülaritesi nedeniyle büyük destek | Modelleri ölçekli bir şekilde sunma | Google ve topluluk tarafından düzenli güncellemeler | Kurumsal için sağlam özellikler | Çeşitli donanım hızlandırmaları |
| TF GraphDef | Statik hesaplama grafikleri için kararlı | TensorFlow altyapısı ile iyi entegre olur | Statik grafikleri optimize etmek için kaynaklar | Statik grafik gerektiren senaryolar | TensorFlow çekirdeği ile eş zamanlı güncellemeler | Yerleşik TensorFlow güvenlik uygulamaları | TensorFlow hızlandırma seçenekleri |
| TF Edge TPU | Google'ın Edge TPU donanımı için optimize edilmiştir | Edge TPU cihazlarına özel | Google ve üçüncü taraf kaynaklarla büyüme | Gerçek zamanlı işleme gerektiren IoT cihazları | Yeni Edge TPU donanımı için iyileştirmeler | Google'ın sağlam IoT güvenliği | Google Coral için özel tasarlanmış |
| LiteRT | Mobil/gömülü/web üzerinde hız ve verimlilik | Mobil, gömülü sistemler, uç birim ve tarayıcı desteği | Güçlü topluluk, Google destekli | Android, iOS ve web üzerinde cihaz üstü uygulamalar | En güncel cihaz üstü çalışma zamanı özellikleri | Güvenli cihaz üstü ve tarayıcı içi çıkarım | GPU, DSP ve WebGPU hızlandırma |
| PaddlePaddle | Rekabetçi, kullanımı kolay ve ölçeklenebilir | Baidu ekosistemi, geniş uygulama desteği | Hızla büyüyor, özellikle Çin'de | Çin pazarı ve dil işleme | Çinli yapay zeka uygulamalarına odaklanma | Veri gizliliğini ve güvenliğini vurgular | Baidu'nun Kunlun çiplerini içerir |
| MNN | Mobil cihazlar için yüksek performans | Mobil ve gömülü ARM sistemleri ve X86-64 CPU | Mobil/gömülü ML topluluğu | Mobil sistemler verimliliği | Mobil cihazlarda yüksek performans bakımı | Cihaz üzerinde güvenlik avantajları | ARM CPU'ları ve GPU'ları optimizasyonları |
| NCNN | Mobil ARM tabanlı cihazlar için optimize edilmiştir | Mobil ve gömülü ARM sistemleri | Niş ancak aktif mobil/gömülü ML topluluğu | Android ve ARM sistemleri verimliliği | ARM üzerinde yüksek performans bakımı | Cihaz üzerinde güvenlik avantajları | ARM CPU'ları ve GPU'ları optimizasyonları |
| Sony IMX500 | Çok düşük güçte sensör üstü çıkarım | Sony IMX500 sensörü, Raspberry Pi AI Camera | Sony AITRIOS ekosistemi | Kamera üstü uç yapay zeka | Sony SDK ve MCT araç zinciri güncellemeleri | Veri sensör üzerinde kalır | Sony IMX500 çip üstü hızlandırıcı |
| Rockchip RKNN | Rockchip NPU'ları için optimize edilmiştir | Rockchip SoC kartları (ör. RK3588) | Rockchip geliştirici topluluğu | Gömülü SBC ve uç cihazlar | Rockchip RKNN-Toolkit güncellemeleri | Cihaz üstü yerel çıkarım | Rockchip NPU |
| ExecuTorch | Verimli cihaz üstü PyTorch çalışma zamanı | iOS, Android, XNNPACK aracılığıyla gömülü | PyTorch projesi tarafından desteklenmektedir | Mobil ve gömülü uygulamalar | PyTorch ile birlikte korunmaktadır | Cihaz üzerinde çıkarım, veriyi yerel tutar | XNNPACK ve mobil CPU/GPU arka uçları |
| Axelera AI | Çok yüksek verim (856 TOPS'a kadar) | PCIe veya M.2 üzerinden Metis AIPU | Axelera Voyager SDK | Yüksek verimli uç çıkarımı | Axelera SDK güncellemeleri | Şirket içi uç çıkarımı | Axelera Metis AIPU |
| DEEPX | INT8 optimize edilmiş NPU çıkarımı | DEEPX NPU donanımı | DEEPX geliştirici araçları (dx_com, dx_engine) | Gömülü uç çıkarımı | DEEPX SDK ve çalışma zamanı güncellemeleri | Cihaz üstü yerel çıkarım | DEEPX NPU |
| Qualcomm QNN | Hızlı cihaz üstü Snapdragon çıkarımı | Snapdragon Hexagon NPU, Adreno GPU, CPU | Qualcomm AI Hub ekosistemi | Mobil ve uç Snapdragon cihazları | Qualcomm AI yığını (QAIRT) güncellemeleri | Cihaz üzerinde çıkarım, veriyi yerel tutar | Snapdragon Hexagon NPU |
Bu karşılaştırma sana üst düzey bir genel bakış sunar. Dağıtım için projenin özel gereksinimlerini ve kısıtlamalarını her seçeneğe göre tart ve seçtiğin format için bağlantılı entegrasyon kılavuzuna başvur.
Sonuç#
YOLO26'nın geniş dışarı aktarma biçimi yelpazesi, bulut GPU sunucusundan sensör üstü uç kameraya kadar modeli neredeyse her ortama uyarlamana olanak tanır. Bir biçim seçtiğinde; optimizasyon, sorun giderme ve güvenlik için model dağıtım en iyi uygulamalarını takip edebilir ve bir sorunla karşılaştığında Ultralytics topluluğundan destek alabilirsin.
SSS#
Ultralytics YOLO26, her biri belirli ortamlar ve donanım platformları için tasarlanmış çeşitli dağıtım formatlarını destekler. Temel formatlar şunlardır:
- Mükemmel Python entegrasyonu ile araştırma ve prototipleme için PyTorch.
- Python'un mevcut olmadığı üretim ortamları için TorchScript.
- Platformlar arası uyumluluk ve donanım hızlandırma için ONNX.
- Intel donanımında optimize edilmiş performans için OpenVINO.
- NVIDIA GPU'larında yüksek hızlı çıkarım için TensorRT.
Her biçimin kendine özgü avantajları vardır. Ayrıntılı bir rehber için dışarı aktarma süreci belgelerimizi inceleyebilirsin.
Intel CPU'larında çıkarım hızını artırmak için YOLO26 modelini Intel'in OpenVINO araç setini kullanarak dağıtabilirsin. OpenVINO, modelleri Intel donanımından verimli bir şekilde yararlanacak şekilde optimize ederek önemli performans artışları sunar.
model.export()işlevini kullanarak YOLO26 modelini OpenVINO formatına dönüştürebilirsin.- Intel OpenVINO Export belgelerindeki ayrıntılı kurulum kılavuzunu takip edebilirsin.
Daha fazla bilgi edinmek için blog yazımıza göz atabilirsin.
Evet, YOLO26 modelleri Android için LiteRT (eski adıyla TensorFlow Lite) ve NCNN, iOS için ise CoreML veya LiteRT kullanılarak mobil cihazlara dağıtılabilir. LiteRT, Google'ın mobil ve gömülü cihazlar için geliştirdiği cihaz üstü çalışma zamanıdır; aynı modeli Android, iOS ve tarayıcı üzerinde çalıştırarak verimli bir cihaz içi çıkarım sağlar.
Örnek# Export command for NCNN format model.export(format="ncnn")Modelleri mobil cihazlara dağıtma hakkında daha fazla ayrıntı için LiteRT entegrasyon kılavuzumuza bakabilirsin.
YOLO26 için bir dağıtım formatı seçerken şu faktörleri göz önünde bulundur:
- Performans: TensorRT gibi bazı formatlar NVIDIA GPU'larında olağanüstü hızlar sağlarken, OpenVINO Intel donanımı için optimize edilmiştir.
- Uyumluluk: ONNX, farklı platformlar arasında geniş uyumluluk sunar.
- Entegrasyon Kolaylığı: CoreML veya LiteRT gibi formatlar, sırasıyla iOS ve Android gibi belirli ekosistemlere göre özel olarak tasarlanmıştır.
- Topluluk Desteği: PyTorch ve TensorFlow gibi biçimler geniş topluluk kaynaklarına ve desteğine sahiptir.
Karşılaştırmalı bir analiz için dışarı aktarma biçimleri belgelerimize göz atabilirsin.
YOLO26 modellerini bir web uygulamasında dağıtmak için, makine öğrenimi modellerini doğrudan tarayıcıda ve Node.js içinde çalıştırmaya olanak tanıyan LiteRT'nin web çalışma zamanı LiteRT.js'yi kullanabilirsin. Bu yaklaşım, arka uç altyapısı ihtiyacını ortadan kaldırır ve gerçek zamanlı performans sunar.
- YOLO26 modelini LiteRT formatına dışa aktar.
- Dışa aktarılan modeli LiteRT.js kullanarak web uygulamana entegre et.
Adım adım talimatlar için LiteRT entegrasyon kılavuzumuza başvurabilirsin.