YOLO26 Çıkarımlarını Neural Magic'in DeepSparse Engine'i ile Optimize Etme#

Çeşitli donanımlarda nesne algılama modelleri, örneğin Ultralytics YOLO26, dağıtılırken optimizasyon gibi benzersiz sorunlarla karşılaşabilirsin. YOLO26'nın Neural Magic'in DeepSparse Engine'i ile entegrasyonu tam da bu noktada devreye girer. YOLO26 modellerinin çalıştırılma biçimini dönüştürür ve GPU düzeyinde performansı doğrudan CPU'larda etkinleştirir.

Bu kılavuzda YOLO26'yı Neural Magic'in DeepSparse çözümünü kullanarak nasıl dağıtacağını, çıkarımları nasıl çalıştıracağını ve optimize edildiğinden emin olmak için performansı nasıl kıyaslayacağını gösteriyoruz.

Neural Magic'in DeepSparse'ı#

Neural Magic'in DeepSparse'ı, sinir ağlarının CPU'larda çalıştırılmasını optimize etmek için tasarlanmış bir çıkarım çalışma zamanıdır. Doğruluğu korurken hesaplama gereksinimlerini büyük ölçüde azaltmak için seyreklik, budama ve niceleme gibi gelişmiş teknikleri uygular. DeepSparse, çeşitli cihazlarda verimli ve ölçeklenebilir sinir ağı çalıştırma için çevik bir çözüm sunar.

Neural Magic'in DeepSparse'ını YOLO26 ile Entegre Etmenin Avantajları#

YOLO26'yı DeepSparse kullanarak nasıl dağıtacağını incelemeden önce DeepSparse kullanmanın avantajlarını anlayalım. Öne çıkan bazı avantajlar şunlardır:

• Geliştirilmiş Çıkarım Hızı: 525 FPS'ye kadar (YOLO11n üzerinde) ulaşarak YOLO'nun çıkarım yeteneklerini geleneksel yöntemlere kıyasla önemli ölçüde hızlandırır.

• Optimize Edilmiş Model Verimliliği: Doğruluğu korurken model boyutunu ve hesaplama gereksinimlerini azaltmak için budama ve niceleme kullanarak YOLO26'nın verimliliğini artırır.

• Standart CPU'larda Yüksek Performans: CPU'larda GPU benzeri performans sunarak çeşitli uygulamalar için daha erişilebilir ve uygun maliyetli bir seçenek sağlar.

• Kolaylaştırılmış Entegrasyon ve Dağıtım: Görüntü ve video açıklama özellikleri de dahil olmak üzere YOLO26'yı uygulamalara kolayca entegre etmek için kullanıcı dostu araçlar sunar.

• Çeşitli Model Türleri Desteği: Hem standart hem de seyreklik için optimize edilmiş YOLO26 modelleriyle uyumludur ve dağıtım esnekliği sağlar.

• Uygun Maliyetli ve Ölçeklenebilir Çözüm: İşletim giderlerini azaltır ve gelişmiş nesne algılama modellerinin ölçeklenebilir dağıtımını sunar.

Neural Magic'in DeepSparse Teknolojisi Nasıl Çalışır?#

Neural Magic'in DeepSparse teknolojisi, sinir ağı hesaplamalarındaki insan beyninin verimliliğinden ilham alır. Beyindeki iki temel prensibi şu şekilde benimser:

• Seyreklik: Seyreltme süreci, derin öğrenme ağlarındaki gereksiz bilgilerin budanmasını içerir ve doğruluktan ödün vermeden daha küçük ve hızlı modeller elde edilmesini sağlar. Bu teknik, ağın boyutunu ve hesaplama gereksinimlerini önemli ölçüde azaltır.

• Referans Yerelliği: DeepSparse, ağı Tensor Columns'a bölerek benzersiz bir çalıştırma yöntemi kullanır. Bu sütunlar derinlik bazında çalıştırılır ve tamamen CPU önbelleğine sığar. Bu yaklaşım, veri hareketini en aza indirip CPU önbelleği kullanımını en üst düzeye çıkararak beynin verimliliğini taklit eder.

Özel Bir Veri Kümesi Üzerinde Eğitilmiş YOLO26'nın Seyrek Sürümünü Oluşturma#

Neural Magic tarafından sunulan açık kaynaklı bir model deposu olan SparseZoo, önceden seyreltilmiş YOLO26 model kontrol noktalarından oluşan bir koleksiyon sunar. Ultralytics ile sorunsuz şekilde entegre edilen SparseML sayesinde kullanıcılar, basit bir komut satırı arayüzü kullanarak bu seyrek kontrol noktalarını kendi veri kümelerinde kolayca ince ayarlayabilir.

Daha fazla ayrıntı için Neural Magic'in SparseML YOLO26 belgelerine göz atabilirsin.

Kullanım: DeepSparse Kullanarak YOLO26'yı Dağıtma#

YOLO26'yı Neural Magic'in DeepSparse'ı ile dağıtmak birkaç basit adım içerir. Kullanım talimatlarını incelemeden önce Ultralytics tarafından sunulan YOLO26 modellerine göz atmayı unutma. Bu, proje gereksinimlerin için en uygun modeli seçmene yardımcı olur. Başlamak için yapman gerekenler şöyle.

Adım: Kurulum#

Gerekli paketleri yüklemek için şunu çalıştır:

# Install the required packages
pip install deepsparse[yolov8]

Adım: YOLO26'yı ONNX Biçimine Dışa Aktarma#

DeepSparse Engine, ONNX biçimindeki YOLO26 modellerini gerektirir. DeepSparse ile uyumluluk için modelini bu biçime dışa aktarman gerekir. YOLO26 modellerini dışa aktarmak için aşağıdaki komutu kullan:

# Export YOLO26 model to ONNX format
yolo detect export model=yolo26n.pt format=onnx opset=13

Bu komut, yolo26n.onnx modelini diskinize kaydeder.

Adım: Dağıtma ve Çıkarımları Çalıştırma#

YOLO26 modelin ONNX biçimindeyken DeepSparse kullanarak modeli dağıtabilir ve çıkarımları çalıştırabilirsin. Bunu sezgisel Python API'si ile kolayca yapabilirsin:

from deepsparse import Pipeline

# Specify the path to your YOLO26 ONNX model
model_path = "path/to/yolo26n.onnx"

# Set up the DeepSparse Pipeline
yolo_pipeline = Pipeline.create(task="yolov8", model_path=model_path)

# Run the model on your images
images = ["path/to/image.jpg"]
pipeline_outputs = yolo_pipeline(images=images)

Adım: Performans Kıyaslama#

YOLO26 modelinin DeepSparse üzerinde en iyi şekilde çalıştığını kontrol etmek önemlidir. İş hacmini ve gecikmeyi analiz etmek için modelinin performansını kıyaslayabilirsin:

# Benchmark performance
deepsparse.benchmark model_path="path/to/yolo26n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

Adım: Ek Özellikler#

DeepSparse, görüntü açıklama ve veri kümesi değerlendirmesi gibi YOLO26'nın uygulamalara pratik entegrasyonu için ek özellikler sağlar.

# For image annotation
deepsparse.yolov8.annotate --source "path/to/image.jpg" --model_filepath "path/to/yolo26n.onnx"

# For evaluating model performance on a dataset
deepsparse.yolov8.eval --model_path "path/to/yolo26n.onnx"

annotate komutunun çalıştırılması, belirttiğin görüntüyü işler, nesneleri algılar ve açıklamalar ile sınıflandırmaları içeren görüntüyü kaydeder. Açıklamalı görüntü, annotation-results klasöründe depolanır. Bu, modelin algılama yeteneklerinin görsel bir temsilini sunmaya yardımcı olur.

eval komutunu çalıştırdıktan sonra precision, recall ve mAP (ortalama Hassasiyet (mAP)) gibi ayrıntılı çıktı metriklerini alırsın. Bu, modelinin veri kümesindeki performansına ilişkin kapsamlı bir görünüm sunar ve belirli kullanım senaryoları için YOLO26 modellerinde ince ayar yapmak ve optimizasyon gerçekleştirmek, yüksek doğruluk ve verimlilik sağlamak açısından özellikle faydalıdır.

Özet#

Bu kılavuzda Ultralytics'in YOLO26'sını Neural Magic'in DeepSparse Engine'i ile entegre etmeyi inceledik. Bu entegrasyonun YOLO26'nın CPU platformlarındaki performansını nasıl artırdığını, GPU düzeyinde verimlilik ve gelişmiş sinir ağı seyreklik teknikleri sunduğunu açıkladık.

Daha ayrıntılı bilgi ve gelişmiş kullanım için Neural Magic DeepSparse deposunu ziyaret edebilirsin. Ayrıca YOLO26 entegrasyon kılavuzunu inceleyebilir ve YouTube'da bir anlatım oturumu izleyebilirsin.

Ayrıca çeşitli YOLO26 entegrasyonlarını daha kapsamlı anlamak için Ultralytics entegrasyon kılavuzu sayfasını ziyaret ederek diğer ilgi çekici entegrasyon olanaklarını keşfedebilirsin.

SSS#