YOLO26 Çıkarımlarını Neural Magic'in DeepSparse Motoruyla Optimize Etme#

Ultralytics YOLO26 gibi nesne algılama modellerini çeşitli donanımlarda dağıtırken optimizasyon gibi özgün sorunlarla karşılaşabilirsin. YOLO26'nın Neural Magic'in DeepSparse Motoruyla entegrasyonu bu noktada devreye girer. YOLO26 modellerinin çalıştırılma biçimini dönüştürür ve doğrudan CPU'larda GPU düzeyinde performans sağlar.

Bu kılavuzda, Neural Magic'in DeepSparse teknolojisini kullanarak YOLO26'yı nasıl dağıtacağını, çıkarımları nasıl çalıştıracağını ve performansı optimize edildiğinden emin olmak için nasıl kıyaslayacağını gösteriyoruz.

Neural Magic'in DeepSparse Teknolojisi#

Neural Magic'in DeepSparse teknolojisi, sinir ağlarının CPU'larda çalıştırılmasını optimize etmek için tasarlanmış bir çıkarım çalışma zamanıdır. Doğruluğu korurken hesaplama gereksinimlerini önemli ölçüde azaltmak için seyrekleştirme, budama ve nicemleme gibi gelişmiş teknikler uygular. DeepSparse, çeşitli cihazlarda sinir ağlarının verimli ve ölçeklenebilir biçimde çalıştırılması için çevik bir çözüm sunar.

Neural Magic'in DeepSparse Teknolojisini YOLO26 ile Entegre Etmenin Faydaları#

DeepSparse kullanarak YOLO26'yı nasıl dağıtacağını incelemeden önce, DeepSparse kullanmanın faydalarını anlayalım. Başlıca avantajlarından bazıları şunlardır:

• Daha Yüksek Çıkarım Hızı: 525 FPS'ye kadar hıza (YOLOv8n'de) ulaşarak YOLO'nun çıkarım yeteneklerini geleneksel yöntemlere kıyasla önemli ölçüde hızlandırır.

• Optimize Edilmiş Model Verimliliği: YOLO26'nın verimliliğini artırmak, model boyutunu ve hesaplama gereksinimlerini azaltırken doğruluğu korumak için budama ve nicemleme kullanır.

• Standart CPU'larda Yüksek Performans: CPU'larda GPU benzeri performans sunarak çeşitli uygulamalar için daha erişilebilir ve uygun maliyetli bir seçenek sağlar.

• Kolaylaştırılmış Entegrasyon ve Dağıtım: Görüntü ve video açıklama özellikleri de dahil olmak üzere YOLO26'yı uygulamalara kolayca entegre etmek için kullanımı kolay araçlar sunar.

• Çeşitli Model Türlerini Destekleme: Hem standart hem de seyrekleştirme için optimize edilmiş YOLO modelleriyle uyumludur ve dağıtım esnekliği sağlar.

• Uygun Maliyetli ve Ölçeklenebilir Çözüm: Operasyonel giderleri azaltır ve gelişmiş nesne algılama modellerinin ölçeklenebilir dağıtımını sağlar.

Neural Magic'in DeepSparse Teknolojisi Nasıl Çalışır?#

Neural Magic'in DeepSparse teknolojisi, insan beyninin sinir ağı hesaplamalarındaki verimliliğinden ilham alır. Beyindeki şu iki temel ilkeyi benimser:

• Seyreklik: Seyrekleştirme süreci, derin öğrenme ağlarından gereksiz bilgileri budayarak doğruluktan ödün vermeden daha küçük ve hızlı modeller elde etmeyi içerir. Bu teknik, ağın boyutunu ve hesaplama gereksinimlerini önemli ölçüde azaltır.

• Referans Yerelliği: DeepSparse, ağı Tensor Columns olarak adlandırılan sütunlara bölen benzersiz bir yürütme yöntemi kullanır. Bu sütunlar derinlik boyunca çalıştırılır ve CPU önbelleğine tamamen sığar. Bu yaklaşım, veri hareketini en aza indirip CPU önbelleği kullanımını en üst düzeye çıkararak beynin verimliliğini taklit eder.

Özel Bir Veri Kümesinde Eğitilmiş YOLO26'nın Seyrek Bir Sürümünü Oluşturma#

Neural Magic'in açık kaynaklı model deposu SparseZoo, önceden seyrekleştirilmiş YOLOv8 model kontrol noktalarından oluşan bir koleksiyon sunar. Ultralytics ile sorunsuz biçimde entegre olan SparseML sayesinde kullanıcılar, bu seyrek kontrol noktalarını basit bir komut satırı arayüzü kullanarak kendi veri kümelerinde kolayca ince ayardan geçirebilir.

Daha fazla ayrıntı için Neural Magic'in SparseML YOLOv8 belgelerine göz at.

Kullanım: DeepSparse ile YOLO26'yı Dağıtma#

YOLO26'yı Neural Magic'in DeepSparse teknolojisiyle dağıtmak birkaç basit adımdan oluşur. Kullanım talimatlarını incelemeden önce Ultralytics tarafından sunulan YOLO26 modellerine göz at. Böylece proje gereksinimlerine en uygun modeli seçebilirsin. Başlamak için yapman gerekenler şöyle.

Adım 1: Kurulum#

Gerekli paketleri yüklemek için şunu çalıştır:

# Install the required packages
pip install deepsparse[yolov8]

Adım 2: YOLO26'yı ONNX Biçimine Dışa Aktarma#

DeepSparse Motoru, YOLO26 modellerinin ONNX biçiminde olmasını gerektirir. DeepSparse ile uyumluluk için modelini bu biçime aktarman gerekir. YOLO26 modellerini dışa aktarmak için şu komutu kullan:

# Export YOLO26 model to ONNX format
yolo detect export model=yolo26n.pt format=onnx opset=13

Bu komut, yolo26n.onnx modelini diske kaydeder.

Adım 3: Dağıtım ve Çıkarım Çalıştırma#

YOLO26 modelin ONNX biçiminde hazır olduğuna göre DeepSparse kullanarak dağıtım yapabilir ve çıkarımları çalıştırabilirsin. Bunu, kullanımı kolay Python API'siyle kolayca yapabilirsin:

from deepsparse import Pipeline

# YOLO26 ONNX modelinin yolunu belirt
model_path = "path/to/yolo26n.onnx"

# DeepSparse Pipeline'ı kur
yolo_pipeline = Pipeline.create(task="yolov8", model_path=model_path)

# Modeli görüntülerinde çalıştır
images = ["path/to/image.jpg"]
pipeline_outputs = yolo_pipeline(images=images)

Adım 4: Performansı Karşılaştırma#

YOLO26 modelinin DeepSparse üzerinde en iyi şekilde çalıştığını doğrulamak önemlidir. Modelinin performansını analiz etmek için verimini ve gecikme süresini karşılaştırabilirsin:

# Benchmark performance
deepsparse.benchmark model_path="path/to/yolo26n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

Adım 5: Ek Özellikler#

DeepSparse, görüntü açıklama ekleme ve veri kümesi değerlendirme gibi YOLO26'yı uygulamalara entegre etmeye yönelik ek özellikler sunar.

# For image annotation
deepsparse.yolov8.annotate --source "path/to/image.jpg" --model_filepath "path/to/yolo26n.onnx"

# For evaluating model performance on a dataset
deepsparse.yolov8.eval --model_path "path/to/yolo26n.onnx"

annotate komutunu çalıştırmak, belirttiğin görüntüyü işler, nesneleri algılar ve sınırlayıcı kutular ile sınıflandırmalar eklenmiş görüntüyü kaydeder. Açıklama eklenmiş görüntü, annotation-results klasöründe saklanır. Bu, modelin algılama yeteneklerini görsel olarak sunmaya yardımcı olur.

eval komutunu çalıştırdıktan sonra kesinlik, duyarlılık ve mAP (ortalama Ortalama Kesinlik) gibi ayrıntılı çıktı ölçümlerini alırsın. Bu, modelinin veri kümesindeki performansına kapsamlı bir bakış sunar ve özellikle YOLO26 modellerini belirli kullanım alanları için ince ayarlamak ve optimize etmek, yüksek doğruluk ve verimlilik sağlamak açısından yararlıdır.

Özet#

Bu kılavuzda Ultralytics YOLO26'nın Neural Magic DeepSparse Engine ile entegrasyonu ele alındı. Bu entegrasyonun YOLO26 performansını CPU platformlarında nasıl artırdığı, GPU düzeyinde verimlilik ve gelişmiş sinir ağı seyrekliği teknikleri sunduğu vurgulandı.

Daha ayrıntılı bilgi ve gelişmiş kullanım için Neural Magic'in DeepSparse deposunu ziyaret et. Ayrıca YOLOv8 entegrasyon kılavuzuna göz atabilir ve YouTube'daki uygulamalı anlatım oturumunu izleyebilirsin.

Farklı YOLO26 entegrasyonları hakkında daha kapsamlı bilgi edinmek için Ultralytics entegrasyon kılavuzu sayfasını ziyaret et; burada birçok farklı entegrasyon olanağını keşfedebilirsin.

Sık Sorulan Sorular#