Link to this sectionYOLO26 Dağıtım Seçeneklerinin Karşılaştırmalı Analizi#
YOLO26, PyTorch ve ONNX formatından TensorRT, OpenVINO, CoreML ve özel edge-NPU formatlarına kadar her biri farklı bir çalışma zamanı, donanım hedefi veya platform için ayarlanmış 20'den fazla dağıtım seçeneğini destekler. Doğru seçimi yapmak; çıkarım hızı, donanım kısıtlamaları ve entegrasyon kolaylığı arasında denge kurmanı sağlar. Bu kılavuz, uygulaman için en uygun olanı seçebilmen için tüm seçenekleri karşılaştırır; ardından güvenilir bir şekilde dağıtmak için model dağıtım en iyi uygulamalarına geçebilirsin.
Watch: How to Choose the Best Ultralytics YOLO26 Deployment Format for Your Project | TensorRT | OpenVINO 🚀
Dağıtım, bilgisayarlı görü proje iş akışındaki eğitilmiş bir modelin gerçek işleri yapmaya başladığı aşamadır, bu nedenle dışa aktardığın format hız, maliyet ve taşınabilirlik üzerinde doğrudan etkiye sahiptir.
Link to this sectionYOLO26 Modelin İçin Doğru Dağıtım Seçeneği Nasıl Seçilir#
YOLO26 modelini dağıtma zamanı geldiğinde, uygun bir dışa aktarma formatı seçmek çok önemlidir. Ultralytics YOLO26 dışa aktarma belgelerinde belirtildiği gibi, model.export() işlevi, eğitilmiş modelini çeşitli ortamlar ve performans gereksinimleri için özel olarak hazırlanmış çeşitli formatlara dönüştürür.
İdeal format, modelinin hedeflenen operasyonel bağlamına ve donanımına bağlıdır.
Manuel dışa aktarma olmadan yönetilen bir dağıtım için Ultralytics Platform, 43 küresel bölgede otomatik ölçeklendirme ile kullanıma hazır çıkarım uç noktaları sağlar.
Link to this sectionYOLO26'nın Dağıtım Seçenekleri#
Burada her formatın kısa bir açıklaması ve ne zaman tercih edileceği yer almaktadır. Dışa aktarma işleminin tamamı için dışa aktarma belgelerine bak; yan yana kriterler için karşılaştırma tablosuna git.
- PyTorch (
.pt): Maksimum esneklik ve CUDA GPU hızlandırması sunan, hiçbir dışa aktarma adımı gerektirmeyen araştırma ve prototip oluşturma için ideal olan yerel eğitim ve çıkarım formatıdır. - TorchScript (
torchscript): Modeli, Python'ın bulunmadığı üretim sistemleri için Python içermeyen bir C++ çalışma zamanına göre serileştirir. - ONNX (
onnx): ONNX Runtime aracılığıyla geniş çaplı platformlar arası ve donanım desteğine sahip, çerçeveden bağımsız bir değişim formatıdır. - OpenVINO (
openvino): Intel'in IoT ve uç bilişim alanlarında yaygın olan Intel CPU'lar, entegre GPU'lar ve NPU'lar üzerinde optimize edilmiş çıkarım için geliştirdiği araç takımıdır. - TensorRT (
engine): FP16 ve INT8 optimizasyonu ile en üst düzeyde GPU çıkarımı sağlayan NVIDIA'nın yüksek performanslı çalışma zamanıdır. - CoreML (
coreml): Apple'ın Apple Neural Engine'i kullanan iOS, macOS, watchOS ve tvOS için cihaz üstü formatıdır. - TF SavedModel (
saved_model): TensorFlow Serving ile ölçeklenebilir sunucu tarafı sunumu için TensorFlow'un standart formatıdır. - TF GraphDef (
pb): Sabit bir hesaplama grafiğine ihtiyaç duyan ortamlar için dondurulmuş statik grafikli bir TensorFlow formatıdır. - TF Lite (
tflite): Mobil ve gömülü donanımlar üzerinde cihaz üstü çıkarım için hafif bir TensorFlow çalışma zamanıdır. - TF Edge TPU (
edgetpu): TF Lite modellerini Google Coral Edge TPU hızlandırıcıları için derler. - TF.js (
tfjs): Modelleri WebGL aracılığıyla hızlandırarak, arka uç olmadan doğrudan tarayıcıda çalıştırır. - PaddlePaddle (
paddle): Baidu'nun Çin'de popüler olan ve geniş donanım desteği sunan derin öğrenme çerçevesidir. - MNN (
mnn): Mobil ve gömülü ARM ve x86-64 sistemleri için optimize edilmiş hafif, yüksek performanslı bir çıkarım motorudur. - NCNN (
ncnn): Mobil ARM cihazları için ayarlanmış yüksek performanslı, hafif bir çıkarım çerçevesidir. - Sony IMX500 (
imx): Raspberry Pi AI Camera gibi çip üzerinde işlemeye sahip Sony'nin IMX500 akıllı görüntü sensörü için dışa aktarmalar sağlar. - Rockchip RKNN (
rknn): FP16 ve INT8 kuantizasyonu ile gömülü kartlardaki Rockchip NPU'larını hedefler. - ExecuTorch (
executorch): PyTorch'un XNNPACK aracılığıyla mobil (iOS ve Android) ve gömülü sistemler için yerel cihaz üstü çalışma zamanıdır. - Axelera AI (
axelera): Yüksek verimli uç çıkarımı için PCIe veya M.2 üzerinden Axelera'nın Metis AIPU'su (856 TOPS'a kadar) için derleme yapar. - DEEPX (
deepx): Gömülü uç çıkarımı için INT8 kuantizasyonu ile DEEPX NPU donanımını hedefler. - Qualcomm QNN (
qnn): Qualcomm AI yığını aracılığıyla Snapdragon Hexagon NPU, Adreno GPU ve CPU üzerinde cihaz üstü çıkarım sağlar.
Ek bir uç hedefi için, Hailo entegrasyonu YOLO algılama modellerini Hailo HEF formatına derler. Bu doğrudan bir model.export() hedefi değildir: algılama modelleri önce ONNX'e aktarılır, ardından Hailo-8, Hailo-8L ve Hailo-15 hızlandırıcıları için harici Hailo Dataflow Compiler ile HEF'e derlenir.
Link to this sectionDağıtım Seçenekleri Karşılaştırması#
Aşağıdaki tablo, YOLO26 modelleri için dağıtım seçeneklerini genellikle seçimi yönlendiren kriterlere göre özetlemektedir. Her formata derinlemesine bir bakış için dışa aktarma formatları belgelerine bak.
| Dağıtım Seçeneği | Performans Karşılaştırmaları | Uyumluluk ve Entegrasyon | Topluluk Desteği ve Ekosistem | Örnek Olaylar | Bakım ve Güncellemeler | Güvenlik Hususları | Donanım Hızlandırma |
|---|---|---|---|---|---|---|---|
| PyTorch | İyi esneklik; ham performanstan ödün verebilir | Python kütüphaneleriyle mükemmel | Kapsamlı kaynaklar ve topluluk | Araştırma ve prototipler | Düzenli, aktif geliştirme | Dağıtım ortamına bağlı | GPU hızlandırma için CUDA desteği |
| TorchScript | Üretim için PyTorch'tan daha iyi | PyTorch'tan C++'a sorunsuz geçiş | Özelleşmiş ancak PyTorch'tan daha dar | Python'ın darboğaz olduğu endüstri | PyTorch ile tutarlı güncellemeler | Tam Python olmadan gelişmiş güvenlik | CUDA desteğini PyTorch'tan devralır |
| ONNX | Çalışma zamanına bağlı olarak değişken | Farklı çerçeveler arasında yüksek | Geniş ekosistem, birçok kuruluş tarafından destekleniyor | ML çerçeveleri arasında esneklik | Yeni işlemler için düzenli güncellemeler | Güvenli dönüştürme ve dağıtım uygulamaları sağla | Çeşitli donanım optimizasyonları |
| OpenVINO | Intel donanımı için optimize edilmiştir | Intel ekosistemi içinde en iyisi | Bilgisayarlı görme alanında sağlam | Intel donanımı ile IoT ve uç | Intel donanımı için düzenli güncellemeler | Hassas uygulamalar için sağlam özellikler | Intel donanımı için özel olarak hazırlanmıştır |
| TensorRT | NVIDIA GPU'larında üst düzey | NVIDIA donanımı için en iyisi | NVIDIA aracılığıyla güçlü ağ | Gerçek zamanlı video ve görüntü çıkarımı | Yeni GPU'lar için sık güncellemeler | Güvenliğe vurgu | NVIDIA GPU'ları için tasarlandı |
| CoreML | Cihaz üzerinde Apple donanımı için optimize edilmiştir | Apple ekosistemine özel | Güçlü Apple ve geliştirici desteği | Apple ürünlerinde cihaz üzerinde ML | Düzenli Apple güncellemeleri | Gizlilik ve güvenliğe odaklan | Apple sinir motoru ve GPU |
| TF SavedModel | Sunucu ortamlarında ölçeklenebilir | TensorFlow ekosisteminde geniş uyumluluk | TensorFlow popülaritesi nedeniyle büyük destek | Modelleri ölçekli bir şekilde sunma | Google ve topluluk tarafından düzenli güncellemeler | Kurumsal için sağlam özellikler | Çeşitli donanım hızlandırmaları |
| TF GraphDef | Statik hesaplama grafikleri için kararlı | TensorFlow altyapısı ile iyi entegre olur | Statik grafikleri optimize etmek için kaynaklar | Statik grafik gerektiren senaryolar | TensorFlow çekirdeği ile eş zamanlı güncellemeler | Yerleşik TensorFlow güvenlik uygulamaları | TensorFlow hızlandırma seçenekleri |
| TF Lite | Mobil/gömülü cihazlarda hız ve verimlilik | Geniş cihaz desteği yelpazesi | Güçlü topluluk, Google destekli | Minimal ayak izine sahip mobil uygulamalar | Mobil için en son özellikler | Son kullanıcı cihazlarında güvenli ortam | Diğerlerinin yanı sıra GPU ve DSP |
| TF Edge TPU | Google'ın Edge TPU donanımı için optimize edilmiştir | Edge TPU cihazlarına özel | Google ve üçüncü taraf kaynaklarla büyüme | Gerçek zamanlı işleme gerektiren IoT cihazları | Yeni Edge TPU donanımı için iyileştirmeler | Google'ın sağlam IoT güvenliği | Google Coral için özel tasarlanmış |
| TF.js | Tarayıcı içinde makul performans | Web teknolojileri ile yüksek | Web ve Node.js geliştiricileri desteği | Etkileşimli web uygulamaları | TensorFlow ekibi ve topluluk katkıları | Web platformu güvenlik modeli | WebGL ve diğer API'ler ile geliştirilmiş |
| PaddlePaddle | Rekabetçi, kullanımı kolay ve ölçeklenebilir | Baidu ekosistemi, geniş uygulama desteği | Hızla büyüyor, özellikle Çin'de | Çin pazarı ve dil işleme | Çinli yapay zeka uygulamalarına odaklanma | Veri gizliliğini ve güvenliğini vurgular | Baidu'nun Kunlun çiplerini içerir |
| MNN | Mobil cihazlar için yüksek performans | Mobil ve gömülü ARM sistemleri ve X86-64 CPU | Mobil/gömülü ML topluluğu | Mobil sistemler verimliliği | Mobil cihazlarda yüksek performans bakımı | Cihaz üzerinde güvenlik avantajları | ARM CPU'ları ve GPU'ları optimizasyonları |
| NCNN | Mobil ARM tabanlı cihazlar için optimize edilmiştir | Mobil ve gömülü ARM sistemleri | Niş ancak aktif mobil/gömülü ML topluluğu | Android ve ARM sistemleri verimliliği | ARM üzerinde yüksek performans bakımı | Cihaz üzerinde güvenlik avantajları | ARM CPU'ları ve GPU'ları optimizasyonları |
| Sony IMX500 | Çok düşük güçte sensör üstü çıkarım | Sony IMX500 sensörü, Raspberry Pi AI Camera | Sony AITRIOS ekosistemi | Kamera üstü uç yapay zeka | Sony SDK ve MCT araç zinciri güncellemeleri | Veri sensör üzerinde kalır | Sony IMX500 çip üstü hızlandırıcı |
| Rockchip RKNN | Rockchip NPU'ları için optimize edilmiştir | Rockchip SoC kartları (ör. RK3588) | Rockchip geliştirici topluluğu | Gömülü SBC ve uç cihazlar | Rockchip RKNN-Toolkit güncellemeleri | Cihaz üstü yerel çıkarım | Rockchip NPU |
| ExecuTorch | Verimli cihaz üstü PyTorch çalışma zamanı | iOS, Android, XNNPACK aracılığıyla gömülü | PyTorch projesi tarafından desteklenmektedir | Mobil ve gömülü uygulamalar | PyTorch ile birlikte korunmaktadır | Cihaz üzerinde çıkarım, veriyi yerel tutar | XNNPACK ve mobil CPU/GPU arka uçları |
| Axelera AI | Çok yüksek verim (856 TOPS'a kadar) | PCIe veya M.2 üzerinden Metis AIPU | Axelera Voyager SDK | Yüksek verimli uç çıkarımı | Axelera SDK güncellemeleri | Şirket içi uç çıkarımı | Axelera Metis AIPU |
| DEEPX | INT8 optimize edilmiş NPU çıkarımı | DEEPX NPU donanımı | DEEPX geliştirici araçları (dx_com, dx_engine) | Gömülü uç çıkarımı | DEEPX SDK ve çalışma zamanı güncellemeleri | Cihaz üstü yerel çıkarım | DEEPX NPU |
| Qualcomm QNN | Hızlı cihaz üstü Snapdragon çıkarımı | Snapdragon Hexagon NPU, Adreno GPU, CPU | Qualcomm AI Hub ekosistemi | Mobil ve uç Snapdragon cihazları | Qualcomm AI yığını (QAIRT) güncellemeleri | Cihaz üzerinde çıkarım, veriyi yerel tutar | Snapdragon Hexagon NPU |
Bu karşılaştırma sana üst düzey bir genel bakış sunar. Dağıtım için projenin özel gereksinimlerini ve kısıtlamalarını her seçeneğe göre tart ve seçtiğin format için bağlantılı entegrasyon kılavuzuna başvur.
Link to this sectionSonuç#
YOLO26'nın geniş dışa aktarma formatı yelpazesi, bulut GPU sunucusundan sensör üstü uç kameraya kadar bir modeli neredeyse her ortama göre uyarlamanı sağlar. Bir format seçtikten sonra, optimizasyon, sorun giderme ve güvenlik için model dağıtım en iyi uygulamalarını takip et ve bir sorunla karşılaştığında Ultralytics topluluğundan destek al.
Link to this sectionSSS#
Link to this sectionFarklı donanım platformlarında YOLO26 için mevcut dağıtım seçenekleri nelerdir?#
Ultralytics YOLO26, her biri belirli ortamlar ve donanım platformları için tasarlanmış çeşitli dağıtım formatlarını destekler. Temel formatlar şunlardır:
- Mükemmel Python entegrasyonu ile araştırma ve prototipleme için PyTorch.
- Python'un mevcut olmadığı üretim ortamları için TorchScript.
- Platformlar arası uyumluluk ve donanım hızlandırma için ONNX.
- Intel donanımında optimize edilmiş performans için OpenVINO.
- NVIDIA GPU'larında yüksek hızlı çıkarım için TensorRT.
Her formatın kendine özgü avantajları vardır. Ayrıntılı bir anlatım için dışa aktarma süreci dokümantasyonumuza bakın.
Link to this sectionBir Intel CPU üzerinde YOLO26 modelimin çıkarım hızını nasıl artırabilirim?#
Intel CPU'larında çıkarım hızını artırmak için YOLO26 modelini Intel'in OpenVINO araç setini kullanarak dağıtabilirsin. OpenVINO, modelleri Intel donanımından verimli bir şekilde yararlanacak şekilde optimize ederek önemli performans artışları sunar.
- YOLO26 modelini
model.export()işlevini kullanarak OpenVINO formatına dönüştür. - Intel OpenVINO Dışa Aktarma dokümantasyonundaki ayrıntılı kurulum kılavuzunu izle.
Daha fazla bilgi için blog yazımıza göz at.
Link to this sectionYOLO26 modellerini mobil cihazlara dağıtabilir miyim?#
Evet, YOLO26 modelleri, hem Android hem de iOS platformları için TensorFlow Lite (TF Lite) kullanılarak mobil cihazlara dağıtılabilir. TF Lite, mobil ve gömülü cihazlar için tasarlanmıştır ve cihaz üzerinde verimli çıkarım sağlar.
# Export command for TFLite format
model.export(format="tflite")Modelleri mobile dağıtma hakkında daha fazla ayrıntı için TF Lite entegrasyon kılavuzumuza başvur.
Link to this sectionYOLO26 modelim için bir dağıtım formatı seçerken hangi faktörleri göz önünde bulundurmalıyım?#
YOLO26 için bir dağıtım formatı seçerken şu faktörleri göz önünde bulundur:
- Performans: TensorRT gibi bazı formatlar NVIDIA GPU'larında olağanüstü hızlar sağlarken, OpenVINO Intel donanımı için optimize edilmiştir.
- Uyumluluk: ONNX, farklı platformlar arasında geniş uyumluluk sunar.
- Entegrasyon Kolaylığı: CoreML veya TF Lite gibi formatlar sırasıyla iOS ve Android gibi belirli ekosistemler için özel olarak hazırlanmıştır.
- Topluluk Desteği: PyTorch ve TensorFlow gibi formatlar kapsamlı topluluk kaynaklarına ve desteğine sahiptir.
Karşılaştırmalı bir analiz için dışa aktarma formatları dokümantasyonumuza başvur.
Link to this sectionYOLO26 modellerini bir web uygulamasında nasıl dağıtabilirim?#
YOLO26 modellerini bir web uygulamasında dağıtmak için, makine öğrenimi modellerini doğrudan tarayıcıda çalıştırmaya olanak tanıyan TensorFlow.js (TF.js) kullanabilirsin. Bu yaklaşım, arka uç altyapısına olan ihtiyacı ortadan kaldırır ve gerçek zamanlı performans sağlar.
- YOLO26 modelini TF.js formatına dışa aktar.
- Dışa aktarılan modeli web uygulamana entegre et.
Adım adım talimatlar için TensorFlow.js entegrasyonu hakkındaki kılavuzumuza başvur.