Link to this sectionYOLO26'yı ExecuTorch ile Mobil ve Uç Cihazlara Dağıtın#

Akıllı telefonlar, tabletler ve gömülü sistemler gibi uç cihazlarda bilgisayarlı görü modelleri dağıtmak, performans ile kaynak kısıtlamaları arasında denge sağlayan optimize edilmiş bir çalışma zamanı gerektirir. PyTorch'un uç bilişim çözümü olan ExecuTorch, Ultralytics YOLO modelleri için cihaz üzerinde verimli çıkarım sağlar.

Bu kılavuz, modellerinizi optimize edilmiş performansla mobil ve uç cihazlarda dağıtmanıza olanak tanıyan Ultralytics YOLO modellerini ExecuTorch formatına nasıl dışa aktaracağınızı özetler.

Link to this sectionNeden ExecuTorch'a dışa aktarmalısın?#

ExecuTorch, mobil ve uç cihazlarda cihaz üzerinde çıkarım yeteneklerini etkinleştirmek için PyTorch'un uçtan uca çözümüdür. Taşınabilir ve verimli olma hedefiyle oluşturulan ExecuTorch, PyTorch programlarını çok çeşitli bilgi işlem platformlarında çalıştırmak için kullanılabilir.

Link to this sectionExecuTorch'un temel özellikleri#

ExecuTorch, Ultralytics YOLO modellerini uç cihazlarda dağıtmak için birçok güçlü özellik sağlar:

• Taşınabilir Model Formatı: ExecuTorch, kaynak kısıtlı cihazlarda boyut ve yükleme hızı için optimize edilmiş .pte (PyTorch ExecuTorch) formatını kullanır.

• XNNPACK Arka Ucu: XNNPACK ile varsayılan entegrasyon, mobil CPU'larda yüksek oranda optimize edilmiş çıkarım sağlayarak özel donanım gerektirmeden mükemmel performans sunar.

• Kuantizasyona Hazır: ExecuTorch ekosistemi, model boyutunu küçültmek ve çıkarım hızını artırmak için kuantizasyon tekniklerini destekler; Ultralytics şu anda FP32 modellerini XNNPACK arka ucu aracılığıyla dışa aktarır.

• Bellek Verimliliği: Optimize edilmiş bellek yönetimi, çalışma zamanı bellek kullanımını azaltarak sınırlı RAM'e sahip cihazlar için uygun hale getirir.

• Model Meta Verileri: Dışa aktarılan modeller, kolay entegrasyon için ayrı bir YAML dosyasında meta veriler (görüntü boyutu, sınıf isimleri vb.) içerir.

Link to this sectionExecuTorch ile Dağıtım Seçenekleri#

ExecuTorch modelleri çeşitli uç ve mobil platformlarda dağıtılabilir:

• Mobil Uygulamalar: iOS ve Android uygulamalarında yerel performansla dağıtın, mobil uygulamalarda gerçek zamanlı nesne algılamayı etkinleştirin.

• Gömülü Sistemler: Raspberry Pi, NVIDIA Jetson gibi gömülü Linux cihazlarında ve diğer ARM tabanlı sistemlerde optimize edilmiş performansla çalıştırın.

• Uç AI Cihazları: Hızlandırılmış çıkarım için özel delegelerle donatılmış uç AI donanımlarında dağıtın.

• IoT Cihazları: Bulut bağlantısı gerektirmeden cihaz üzerinde çıkarım için IoT cihazlarına entegre edin.

Link to this sectionUltralytics YOLO26 Modellerini ExecuTorch'a Dışa Aktarma#

Ultralytics YOLO26 modellerini ExecuTorch formatına dönüştürmek, mobil ve uç cihazlarda verimli dağıtım sağlar.

Link to this sectionKurulum#

ExecuTorch ile dışa aktarma, Python 3.10-3.13 ve PyTorch >= 2.9.0 ile birlikte executorch paketini gerektirir:

# Install Ultralytics package
pip install ultralytics

Kurulum süreciyle ilgili ayrıntılı talimatlar ve en iyi uygulamalar için YOLO26 Kurulum kılavuzumuza göz atın. YOLO26 için gerekli paketleri kurarken herhangi bir zorlukla karşılaşırsanız, çözümler ve ipuçları için Yaygın Sorunlar kılavuzumuza başvurun.

Link to this sectionKullanım#

YOLO26 modellerini ExecuTorch'a dışa aktarmak basittir:

ExecuTorch formatı Export, Predict ve Validate modlarını destekler. Modelinizi dışa aktarın, ardından çıkarım çalıştırmak veya doğruluğunu doğrulamak için dışa aktarılan modeli yükleyin.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to ExecuTorch format
model.export(format="executorch")  # creates 'yolo26n_executorch_model'

from ultralytics import YOLO

# Load the exported ExecuTorch model
model = YOLO("yolo26n_executorch_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported ExecuTorch model
model = YOLO("yolo26n_executorch_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionDışa Aktarma Argümanları#

ExecuTorch formatına dışa aktarırken şu argümanları belirtebilirsin:

Link to this sectionÇıktı Yapısı#

ExecuTorch dışa aktarma işlemi, modeli ve meta verileri içeren bir dizin oluşturur:

yolo26n_executorch_model/
├── model.pte               # ExecuTorch model file
└── metadata.yaml           # Model metadata (classes, image size, etc.)

Link to this sectionDışa Aktarılan ExecuTorch Modellerini Kullanma#

Modelinizi dışa aktardıktan sonra, onu ExecuTorch çalışma zamanını kullanarak hedef uygulamanıza entegre etmeniz gerekecektir.

Link to this sectionMobil Entegrasyon#

Mobil uygulamalar (iOS/Android) için şunları yapman gerekecek:

1. ExecuTorch Çalışma Zamanını Ekle: ExecuTorch çalışma zamanı kütüphanesini mobil projenize dahil edin
2. Modeli Yükle: .pte dosyasını uygulamanızda yükleyin
3. Çıkarım Çalıştır: Görüntüleri işleyin ve tahminler alın

Örnek iOS entegrasyonu (Objective-C/C++):

// iOS uses C++ APIs for model loading and inference
// See https://pytorch.org/executorch/stable/using-executorch-ios.html for complete examples

#include <executorch/extension/module/module.h>

using namespace ::executorch::extension;

// Load the model
Module module("/path/to/model.pte");

// Create input tensor
float input[1 * 3 * 640 * 640];
auto tensor = from_blob(input, {1, 3, 640, 640});

// Run inference
const auto result = module.forward(tensor);

Örnek Android entegrasyonu (Kotlin):

import org.pytorch.executorch.EValue
import org.pytorch.executorch.Module
import org.pytorch.executorch.Tensor

// Load the model
val module = Module.load("/path/to/model.pte")

// Prepare input tensor
val inputTensor = Tensor.fromBlob(floatData, longArrayOf(1, 3, 640, 640))
val inputEValue = EValue.from(inputTensor)

// Run inference
val outputs = module.forward(inputEValue)
val scores = outputs[0].toTensor().dataAsFloatArray

Link to this sectionGömülü Linux#

Gömülü Linux sistemleri için ExecuTorch C++ API'sini kullanın:

#include <executorch/extension/module/module.h>
#include <executorch/extension/tensor/tensor.h>

using namespace ::executorch::extension;

// Load model
Module module("model.pte");

// Prepare input
std::vector<float> input_data = preprocessImage(image);
auto input_tensor = from_blob(input_data.data(), {1, 3, 640, 640});

// Run inference
const auto outputs = module.forward(input_tensor);

ExecuTorch'u uygulamalarınıza entegre etme hakkında daha fazla ayrıntı için ExecuTorch Dokümantasyonunu ziyaret edin.

Link to this sectionPerformans Optimizasyonu#

Link to this sectionModel Boyutu Optimizasyonu#

Dağıtım için model boyutunu küçültmek için:

• Daha Küçük Modeller Kullan: En küçük ayak izi için YOLO26n (nano) ile başlayın
• Girdi Çözünürlüğünü Düşür: Daha küçük görüntü boyutları kullanın (örneğin, imgsz=320 veya imgsz=416)
• Kuantizasyon: Kuantizasyon tekniklerini uygulayın (gelecek ExecuTorch sürümlerinde desteklenecektir)

Link to this sectionÇıkarım Hızı Optimizasyonu#

Daha hızlı çıkarım için:

• XNNPACK Arka Ucu: Varsayılan XNNPACK arka ucu optimize edilmiş CPU çıkarımı sağlar
• Donanım Hızlandırma: Platforma özel delegeler kullanın (örneğin, iOS için CoreML)
• Toplu İşleme: Mümkün olduğunda birden fazla görüntüyü işleyin

Link to this sectionKıyaslamalar#

Ultralytics ekibi YOLO26 modellerini kıyaslayarak PyTorch ve ExecuTorch arasındaki hız ve doğruluğu karşılaştırdı.

Link to this sectionSorun Giderme#

Link to this sectionYaygın Sorunlar#

Issue: Python version error

Çözüm: ExecuTorch, Python 3.10 veya daha yenisini gerektirir. Python kurulumunuzu yükseltin:

# Using conda
conda create -n executorch python=3.10
conda activate executorch

Issue: Export fails during first run

Çözüm: En son önceden oluşturulmuş executorch wheel dosyasının yüklü olduğundan emin olun:

pip install --upgrade executorch

Issue: Import errors for ExecuTorch modules

Çözüm: ExecuTorch'un düzgün yüklendiğinden emin olun:

pip install executorch --force-reinstall

Daha fazla sorun giderme yardımı için Ultralytics GitHub Sorunları sayfasını veya ExecuTorch Dokümantasyonunu ziyaret edin.

Link to this sectionÖzet#

YOLO26 modellerini ExecuTorch formatına dışa aktarmak, mobil ve uç cihazlarda verimli dağıtım sağlar. PyTorch yerel entegrasyonu, platformlar arası destek ve optimize edilmiş performans ile ExecuTorch, uç AI uygulamaları için mükemmel bir seçimdir.

Önemli noktalar:

• ExecuTorch, mükemmel performansla PyTorch tabanlı uç dağıtımı sağlar
• format='executorch' parametresi ile dışa aktarma basittir
• Modeller, XNNPACK arka ucu aracılığıyla mobil CPU'lar için optimize edilmiştir
• iOS, Android ve gömülü Linux platformlarını destekler
• Python 3.10-3.13 ve PyTorch >= 2.9.0 gerektirir

Link to this sectionSSS#

Link to this sectionBir YOLO26 modelini ExecuTorch formatına nasıl dışa aktarırım?#

Bir YOLO26 modelini Python veya CLI kullanarak ExecuTorch'a dışa aktar:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="executorch")

veya

yolo export model=yolo26n.pt format=executorch

Link to this sectionExecuTorch dışa aktarımı için sistem gereksinimleri nelerdir?#

ExecuTorch dışa aktarımı şunları gerektirir:

• Python 3.10 veya daha yenisi
• executorch paketi (pip install executorch ile yükleyin)
• PyTorch (ultralytics ile otomatik olarak yüklenir)

Not: executorch paketi, önceden oluşturulmuş wheel dosyalarıyla (XNNPACK arka ucu ile) birlikte gelir, bu nedenle dışa aktarma sırasında ekstra derleme adımı gerekmez.

Link to this sectionExecuTorch modelleriyle doğrudan Python'da çıkarım çalıştırabilir miyim?#

ExecuTorch modelleri, Python'da çıkarım ve doğrulama için YOLO() ile doğrudan yüklenebilir (yukarıdaki Predict/Validate örneklerine bakın) ve ayrıca ExecuTorch çalışma zamanı kütüphaneleri kullanılarak mobil ve uç cihazlarda dağıtılabilir.

Link to this sectionExecuTorch hangi platformları destekler?#

ExecuTorch şunları destekler:

• Mobil: iOS ve Android
• Gömülü Linux: Raspberry Pi, NVIDIA Jetson ve diğer ARM cihazları
• Masaüstü: Linux, macOS ve Windows (geliştirme için)

Link to this sectionExecuTorch, mobil dağıtım için TFLite ile nasıl karşılaştırılır?#

Hem ExecuTorch hem de TFLite, mobil dağıtım için mükemmeldir:

• ExecuTorch: Daha iyi PyTorch entegrasyonu, yerel PyTorch iş akışı, büyüyen ekosistem
• TFLite: Daha olgun, daha geniş donanım desteği, daha fazla dağıtım örneği

Zaten PyTorch kullanıyorsan ve yerel bir dağıtım yolu istiyorsan ExecuTorch'u seç. Maksimum uyumluluk ve olgun araçlar için TFLite'ı seç.

Link to this sectionExecuTorch modellerini GPU hızlandırma ile kullanabilir miyim?#

Evet! ExecuTorch, çeşitli arka uçlar aracılığıyla donanım hızlandırmayı destekler:

• Mobil GPU: Vulkan, Metal veya OpenCL delegeleri aracılığıyla
• NPU/DSP: Platforma özgü delegeler aracılığıyla
• Varsayılan: Optimize edilmiş CPU çıkarımı için XNNPACK

Arka uca özgü kurulum için ExecuTorch Documentation kısmına başvur.