YOLO26 Dağıtım Seçeneklerinin Karşılaştırmalı Analizi#
YOLO26, her biri farklı bir çalışma ortamı, donanım hedefi veya platform için ayarlanmış 20'den fazla dağıtım seçeneğini destekler — PyTorch ve ONNX'ten TensorRT, OpenVINO, CoreML ve özel uç NPU biçimlerine kadar. Doğru seçeneği belirlemek, çıkarım hızı, donanım kısıtları ve entegrasyon kolaylığı arasında denge kurmayı gerektirir. Bu kılavuz, uygulamana en uygun seçeneği belirleyebilmen için her seçeneği karşılaştırır; ardından modeli güvenilir şekilde dağıtmak için model dağıtımında en iyi uygulamalara geçebilirsin.
İzle: Projen için en iyi Ultralytics YOLO26 dağıtım biçimi nasıl seçilir | TensorRT | OpenVINO 🚀
Dağıtım, eğitilmiş bir modelin gerçek işlere başladığı bilgisayarlı görü projesi iş akışının aşamasıdır; bu nedenle dışa aktardığın biçim hız, maliyet ve taşınabilirliği doğrudan etkiler.
YOLO26 Modelin için Doğru Dağıtım Seçeneğini Belirleme#
YOLO26 modelini dağıtma zamanı geldiğinde uygun bir dışa aktarma biçimi seçmek çok önemlidir. Ultralytics YOLO26 dışa aktarma belgelerinde açıklandığı gibi, model.export() fonksiyonu eğitilmiş modelini farklı ortam ve performans gereksinimlerine uygun çeşitli biçimlere dönüştürür.
İdeal biçim, modelinin amaçlanan çalışma bağlamına ve donanıma bağlıdır.
Elle dışa aktarma yapmadan yönetilen dağıtım için Ultralytics Platform, 42 küresel bölgede otomatik ölçeklendirme sunan kullanıma hazır çıkarım uç noktaları sağlar.
YOLO26'nın Dağıtım Seçenekleri#
Her biçimin kısa bir açıklaması ve hangi durumlarda tercih edileceği aşağıda verilmiştir. Dışa aktarma sürecinin tamamını görmek için dışa aktarma belgelerine, ölçütleri yan yana karşılaştırmak için karşılaştırma tablosuna göz at.
- PyTorch (
.pt): Yerel eğitim ve çıkarım biçimidir; NVIDIA CUDA veya AMD ROCm üzerinden maksimum esneklik ve GPU hızlandırması sunar — dışa aktarma adımı gerektirmediği için araştırma ve prototipleme için idealdir. - TorchScript (
torchscript): Modeli, Python gerektirmeyen bir C++ çalışma ortamı için serileştirir; Python'ın kullanılamadığı üretim sistemlerine uygundur. - ONNX (
onnx): ONNX Runtime aracılığıyla geniş çaplı platformlar arası ve donanım desteği sunan, çerçeveden bağımsız bir değişim biçimidir; CUDA üzerinden NVIDIA GPU'ları ve MIGraphX üzerinden AMD GPU'ları da destekler. - OpenVINO (
openvino): Intel CPU'larda, tümleşik GPU'larda ve NPU'larda optimize edilmiş çıkarım sağlayan Intel araç setidir; IoT ve uç bilişim uygulamalarında sıkça kullanılır. - TensorRT (
engine): FP16 ve INT8 optimizasyonuyla üst düzey GPU çıkarımı sunan, NVIDIA'nın yüksek performanslı çalışma ortamıdır. - CoreML (
coreml): Apple Neural Engine'i kullanan, iOS, macOS, watchOS ve tvOS için Apple'ın cihaz içi biçimidir. - Core AI (
coreai): CPU, GPU ve Apple Neural Engine genelinde çalışacak şekilde planlanan, iOS 27 ve macOS 27 için Apple'ın yeni.aimodelbiçimidir; dışa aktarma için Apple silicon üzerinde macOS 26 veya üzeri ya da glibc 2.34 veya üzeri sürüme sahip x86_64 Linux ve Python 3.11–3.14 gerekir. - TF SavedModel (
saved_model): TensorFlow Serving ile ölçeklenebilir sunucu tarafı sunum için TensorFlow'un standart biçimidir. - TF GraphDef (
pb): Sabit bir hesaplama grafiği gerektiren ortamlar için dondurulmuş statik grafik TensorFlow biçimidir. - TF Edge TPU (
edgetpu): Google Coral Edge TPU hızlandırıcıları için.tflitemodellerini derler. - LiteRT (
litert): Mobil, gömülü sistemler ve tarayıcıda çıkarım için Google'ın cihaz içi çalışma ortamıdır (önceden TensorFlow Lite olarak biliniyordu); tek bir.tflitemodelinden FP32 ve INT8 desteği sunar ve LiteRT.js ile tarayıcıda çalışır. - PaddlePaddle (
paddle): Çin'de yaygın olan ve geniş donanım desteğine sahip Baidu derin öğrenme çerçevesidir. - MNN (
mnn): Mobil ve gömülü ARM ve x86-64 sistemler için optimize edilmiş, hafif ve yüksek performanslı bir çıkarım motorudur. - NCNN (
ncnn): Mobil ARM cihazlar için ayarlanmış, yüksek performanslı ve hafif bir çıkarım çerçevesidir. - Sony IMX500 (
imx): Raspberry Pi AI Camera gibi, çip üzerinde işleme özelliğine sahip Sony IMX500 akıllı görüntü sensörü için dışa aktarım yapar. - Rockchip RKNN (
rknn): Gömülü kartlardaki Rockchip NPU'larını hedefler ve FP16 ile INT8 nicelemesini destekler. - ExecuTorch (
executorch): XNNPACK aracılığıyla mobil (iOS ve Android) ve gömülü sistemler için PyTorch'un yerel cihaz içi çalışma ortamıdır. - Axelera AI (
axelera): Yüksek aktarım hızlı uç çıkarımı için PCIe veya M.2 üzerinden Axelera'nın Metis AIPU'su (856 TOPS'a kadar) üzerinde derleme yapar. - DEEPX (
deepx): Gömülü uç çıkarımı için INT8 nicelemesiyle DEEPX NPU donanımını hedefler. - Qualcomm QNN (
qnn): Qualcomm AI yığını aracılığıyla Snapdragon Hexagon NPU, Adreno GPU ve CPU üzerinde cihaz içi çıkarım sağlar.
Hailo entegrasyonu, YOLO algılama, segmentasyon, anlamsal segmentasyon, derinlik tahmini, sınıflandırma, poz ve OBB modellerini doğrudan Hailo HEF biçimine aktarır; doğrulanmış modeller ve hedefler için uyumluluk tablosuna bak. Ambarella entegrasyonu, ONNX öncelikli bir iş akışı izler ve ONNX dışa aktarımlarını, CV72 gibi CVflow® SoC'ler için Ambarella'nın CVflow araç zincirini kullanarak AmbaPB biçimine derler; isteğe bağlı olarak SpongeTorch sıkıştırma farkındalıklı eğitimden yararlanır. Huawei Ascend entegrasyonu, Ascend AI işlemcilerinde FP16 çıkarımı için ONNX dışa aktarımlarını CANN ATC derleyicisiyle .om çevrimdışı biçimine derler. AMD Xilinx entegrasyonu, Versal AI Edge Series Gen 2 NPU'ları için ONNX dışa aktarımlarını AMD Quark ile niceleyerek Vitis AI Execution Provider'ın .rai modeline derlemesini sağlar.
Dağıtım Seçeneklerinin Karşılaştırması#
Aşağıdaki tabloda YOLO26 modellerinin dağıtım seçenekleri, seçimi belirleyen yaygın ölçütlere göre özetlenmiştir. Her biçime daha yakından bakmak için dışa aktarma biçimleri belgelerine göz at.
| Dağıtım Seçeneği | Performans Karşılaştırmaları | Uyumluluk ve Entegrasyon | Topluluk Desteği ve Ekosistem | Örnek Olaylar | Bakım ve Güncellemeler | Güvenlik Konuları | Donanım Hızlandırması |
|---|---|---|---|---|---|---|---|
| PyTorch | Esnekliği iyidir; ham performanstan ödün verebilir | Python kütüphaneleriyle mükemmel uyum | Kapsamlı kaynaklar ve topluluk | Araştırma ve prototipler | Düzenli ve etkin geliştirme | Dağıtım ortamına bağlıdır | GPU hızlandırması için CUDA desteği |
| TorchScript | Üretime PyTorch'tan daha uygundur | PyTorch'tan C++'a sorunsuz geçiş | Özelleşmiş, ancak PyTorch'tan daha dar kapsamlı | Python'ın darboğaz olduğu sektör | PyTorch ile tutarlı güncellemeler | Tam Python kullanmadan daha iyi güvenlik | PyTorch'tan CUDA desteği alır |
| ONNX | Çalışma ortamına bağlı olarak değişir | Farklı çerçevelerde yüksek uyumluluk | Geniş ekosistem, çok sayıda kuruluş tarafından desteklenir | ML çerçeveleri arasında esneklik | Yeni işlemler için düzenli güncellemeler | Güvenli dönüştürme ve dağıtım uygulamalarını güvence altına al | Çeşitli donanım optimizasyonları |
| OpenVINO | Intel donanımı için optimize edilmiştir | Intel ekosisteminde en iyi performansı sunar | Bilgisayarlı görü alanında güçlü | Intel donanımıyla IoT ve uç bilişim | Intel donanımı için düzenli güncellemeler | Hassas uygulamalar için kapsamlı özellikler | Intel donanımına özel tasarlandı |
| TensorRT | NVIDIA GPU'larında üst düzey performans | NVIDIA donanımı için en iyi seçenek | NVIDIA aracılığıyla güçlü ağ | Gerçek zamanlı video ve görüntü çıkarımı | Yeni GPU'lar için sık güncellemeler | Güvenliğe odaklanır | NVIDIA GPU'ları için tasarlandı |
| CoreML | Apple donanımında cihaz üzerinde çalışacak şekilde optimize edildi | Yalnızca Apple ekosisteminde kullanılabilir | Apple ve geliştiricilerden güçlü destek | Apple ürünlerinde cihaz üzerinde ML | Düzenli Apple güncellemeleri | Gizlilik ve güvenliğe odaklanır | Apple Neural Engine ve GPU |
| Core AI | Apple silicon için optimize edildi | iOS 27 ve macOS 27; Apple silicon macOS 26+ veya x86_64 Linux (glibc 2.34+) üzerinde dışa aktarma, Python 3.11-3.14 | Apple çerçevesi; iOS/Flutter SDK'larında isteğe bağlı etkinleştirme | Yeni nesil Apple platformlarında cihaz üzerinde ML | Apple işletim sistemi sürümlerine bağlı; şu anda beta aşamasında | Cihaz üzerinde çıkarım, verilerin yerel kalmasını sağlar | Apple Neural Engine, GPU ve CPU |
| TF SavedModel | Sunucu ortamlarında ölçeklenebilir | TensorFlow ekosistemiyle geniş uyumluluk | TensorFlow'un popülerliği sayesinde geniş destek | Modelleri büyük ölçekte sunma | Google ve topluluk tarafından düzenli güncellemeler | Kurumsal kullanım için kapsamlı özellikler | Çeşitli donanım hızlandırmaları |
| TF GraphDef | Statik hesaplama grafikleri için kararlı | TensorFlow altyapısıyla iyi bütünleşir | Statik grafikleri optimize etmeye yönelik kaynaklar | Statik grafik gerektiren senaryolar | TensorFlow çekirdeğiyle birlikte güncellenir | TensorFlow'un yerleşik güvenlik uygulamaları | TensorFlow hızlandırma seçenekleri |
| TF Edge TPU | Google'ın Edge TPU donanımı için optimize edildi | Yalnızca Edge TPU cihazlarında kullanılabilir | Google ve üçüncü taraf kaynaklarıyla büyüyor | Gerçek zamanlı işleme gerektiren IoT cihazları | Yeni Edge TPU donanımı için iyileştirmeler | Google'ın güçlü IoT güvenliği | Google Coral için özel olarak tasarlandı |
| LiteRT | Mobil/gömülü/web ortamlarında hız ve verimlilik | Mobil, gömülü, uç ve tarayıcı desteği | Güçlü topluluk, Google desteği | Android, iOS ve web genelinde cihaz üzerinde çalışan uygulamalar | En yeni cihaz üzerinde çalışma zamanı özellikleri | Cihaz üzerinde ve tarayıcıda güvenli çıkarım | GPU, DSP ve WebGPU hızlandırması |
| PaddlePaddle | Rekabetçi, kullanımı kolay ve ölçeklenebilir | Baidu ekosistemi ve geniş uygulama desteği | Özellikle Çin'de hızla büyüyor | Çin pazarı ve dil işleme | Çin'deki yapay zekâ uygulamalarına odaklanır | Veri gizliliği ve güvenliğini vurgular | Baidu'nun Kunlun çipleri dâhil |
| MNN | Mobil cihazlarda yüksek performans | Mobil ve gömülü ARM sistemleri ile X86-64 CPU | Mobil/gömülü ML topluluğu | Mobil sistemlerde verimlilik | Mobil cihazlarda yüksek performansın sürdürülmesi | Cihaz üzerinde güvenlik avantajları | ARM CPU'ları ve GPU'ları için optimizasyonlar |
| NCNN | ARM tabanlı mobil cihazlar için optimize edildi | Mobil ve gömülü ARM sistemleri | Niş ancak aktif mobil/gömülü ML topluluğu | Android ve ARM sistemlerinde verimlilik | ARM'de yüksek performansın sürdürülmesi | Cihaz üzerinde güvenlik avantajları | ARM CPU'ları ve GPU'ları için optimizasyonlar |
| Sony IMX500 | Çok düşük güç tüketimiyle sensör üzerinde çıkarım | Sony IMX500 sensörü, Raspberry Pi AI Camera | Sony AITRIOS ekosistemi | Kamera üzerinde uç yapay zekâ | Sony SDK ve MCT araç zinciri güncellemeleri | Veriler sensörde kalır | Sony IMX500 yonga üzerindeki hızlandırıcı |
| Rockchip RKNN | Rockchip NPU'ları için optimize edildi | Rockchip SoC kartları (örn. RK3588) | Rockchip geliştirici topluluğu | Gömülü SBC'ler ve uç cihazlar | Rockchip RKNN-Toolkit güncellemeleri | Cihaz üzerinde yerel çıkarım | Rockchip NPU |
| ExecuTorch | Cihaz üzerinde verimli PyTorch çalışma zamanı | XNNPACK üzerinden iOS, Android ve gömülü sistemler | PyTorch projesinin desteğiyle | Mobil ve gömülü uygulamalar | PyTorch ile birlikte bakımı yapılır | Cihaz üzerinde çıkarım, verilerin yerel kalmasını sağlar | XNNPACK ve mobil CPU/GPU arka uçları |
| Axelera AI | Çok yüksek verim (856 TOPS'a kadar) | PCIe veya M.2 üzerinden Metis AIPU | Axelera Voyager SDK | Yüksek verimli uç çıkarım | Axelera SDK güncellemeleri | Şirket içi uç çıkarımı | Axelera Metis AIPU |
| DEEPX | INT8 için optimize edilmiş NPU çıkarımı | DEEPX NPU donanımı | DEEPX geliştirici araçları (dx_com, dx_engine) | Gömülü uç çıkarımı | DEEPX SDK ve çalışma zamanı güncellemeleri | Cihaz üzerinde yerel çıkarım | DEEPX NPU |
| Qualcomm QNN | Snapdragon cihazlarda hızlı çıkarım | Snapdragon Hexagon NPU, Adreno GPU, CPU | Qualcomm AI Hub ekosistemi | Mobil ve uç Snapdragon cihazları | Qualcomm AI yığını (QAIRT) güncellemeleri | Cihaz üzerinde çıkarım, verilerin yerel kalmasını sağlar | Snapdragon Hexagon NPU |
| Hailo | Hailo NPU'larda INT8 HEF çıkarımı | Hailo-8/8L/10H/15H/15L, Raspberry Pi AI HAT+ | Hailo Dataflow Compiler ve HailoRT | Kameralar, robotlar, endüstriyel uç sistemleri | Hailo DFC ve HailoRT sürümleri | Cihaz üzerinde yerel çıkarım | Hailo NPU |
| Huawei Ascend | Ascend AI Core'da daha yüksek verim | Atlas kartları ve OrangePi AIPro | Huawei CANN ekosistemi | Ascend NPU'larda uç çıkarımı | CANN ve ATC sürümleri | Cihaz üzerinde yerel çıkarım | Ascend AI Core |
| AMD Xilinx | Versal AI Edge Gen 2 NPU'larında INT8 çıkarımı | Versal AI Edge Series Gen 2 (VEK385) | AMD Vitis AI ve Quark | Uyarlanabilir SoC'lerde gömülü görüntü işleme | Vitis AI ve Quark sürümleri | Cihaz üzerinde yerel çıkarım | Versal AI Engine NPU |
Bu karşılaştırma, genel bir bakış sunar. Dağıtım yaparken projenin özel gereksinimlerini ve kısıtlamalarını her seçeneğe göre değerlendirin ve seçtiğiniz biçim için bağlantısı verilen entegrasyon kılavuzuna başvurun.
Sonuç#
YOLO26'nın geniş dışa aktarma biçimi yelpazesi, bir modeli bulut GPU sunucusundan sensör üzerindeki uç kameraya kadar hemen her ortama uyarlamanı sağlar. Bir biçim seçtikten sonra optimizasyon, sorun giderme ve güvenlik için model dağıtımına yönelik en iyi uygulamaları izle ve bir sorunla karşılaştığında Ultralytics topluluğundan destek al.
Sık Sorulan Sorular#
Ultralytics YOLO26, her biri belirli ortamlar ve donanım platformları için tasarlanmış çeşitli dağıtım biçimlerini destekler. Öne çıkan biçimler şunlardır:
- PyTorch, araştırma ve prototip geliştirme için; Python ile mükemmel entegrasyon sunar.
- TorchScript, Python'ın bulunmadığı üretim ortamları için.
- ONNX, platformlar arası uyumluluk ve donanım hızlandırması için.
- OpenVINO, Intel donanımında optimize edilmiş performans için.
- TensorRT, NVIDIA GPU'larda yüksek hızlı çıkarım için.
Her biçimin kendine özgü avantajları vardır. Ayrıntılı bir anlatım için dışa aktarma süreci belgelerimize göz at.
Intel CPU'larda çıkarım hızını artırmak için YOLO26 modelini Intel'in OpenVINO araç setini kullanarak dağıtabilirsin. OpenVINO, Intel donanımından verimli bir şekilde yararlanmak üzere modelleri optimize ederek performansı önemli ölçüde artırır.
model.export()işlevini kullanarak YOLO26 modelini OpenVINO biçimine dönüştür.- Ayrıntılı kurulum kılavuzu için Intel OpenVINO Dışa Aktarma belgelerini izle.
Daha fazla bilgi için blog yazımıza göz at.
Evet, YOLO26 modelleri Android için LiteRT (eski adıyla TensorFlow Lite) ve NCNN, iOS içinse CoreML veya LiteRT kullanılarak mobil cihazlara dağıtılabilir. LiteRT, Google'ın mobil ve gömülü cihazlar için geliştirdiği, cihaz üzerinde çalışan çalışma zamanıdır; aynı modeli Android, iOS ve tarayıcıda çalıştırarak cihaz üzerinde verimli çıkarım sağlar.
Örnekfrom ultralytics import YOLO model = YOLO("yolo26n.pt") # NCNN biçimi için dışa aktarma komutu model.export(format="ncnn")Modelleri mobil cihazlara dağıtma hakkında daha fazla bilgi için LiteRT entegrasyon kılavuzumuza başvur.
YOLO26 için dağıtım biçimi seçerken şu faktörleri göz önünde bulundur:
- Performans: TensorRT gibi bazı biçimler NVIDIA GPU'larda olağanüstü hız sunarken OpenVINO, Intel donanımı için optimize edilmiştir.
- Uyumluluk: ONNX, farklı platformlarda geniş uyumluluk sunar.
- Entegrasyon kolaylığı: CoreML veya LiteRT gibi biçimler, sırasıyla iOS ve Android gibi belirli ekosistemlere göre tasarlanmıştır.
- Topluluk desteği: PyTorch ve TensorFlow gibi biçimlerin kapsamlı topluluk kaynakları ve desteği vardır.
Karşılaştırmalı bir analiz için dışa aktarma biçimleri belgelerimize başvur.
YOLO26 modellerini bir web uygulamasına dağıtmak için, LiteRT'nin web çalışma zamanı olan LiteRT.js ile makine öğrenmesi modellerini doğrudan tarayıcıda ve Node.js'te çalıştırabilirsin. Bu yaklaşım, arka uç altyapısı ihtiyacını ortadan kaldırır ve gerçek zamanlı performans sunar.
- YOLO26 modelini LiteRT biçimine aktar.
- Dışa aktarılan modeli LiteRT.js kullanarak web uygulamana entegre et.
Adım adım yönergeler için LiteRT entegrasyon kılavuzumuza başvur.