Neural Magic'in DeepSparse Motoru ile YOLO11 Çıkarımlarını Optimize Etme

gibi nesne algılama modellerini dağıtırken Ultralytics YOLO11 çeşitli donanımlarda, optimizasyon gibi benzersiz sorunlarla karşılaşabilirsiniz. İşte bu noktada YOLO11'un Neural Magic'un DeepSparse Engine ile entegrasyonu devreye giriyor. YOLO11 modellerinin yürütülme şeklini dönüştürür ve doğrudan CPU'larda GPU düzeyinde performans sağlar.

Bu kılavuz, Neural Magic's DeepSparse kullanarak YOLO11 adresini nasıl dağıtacağınızı, çıkarımları nasıl çalıştıracağınızı ve ayrıca optimize edildiğinden emin olmak için performansı nasıl kıyaslayacağınızı gösterir.

Neural Magic'in DeepSparse

Neural MagicDeepSparse, CPU'larda sinir ağlarının yürütülmesini optimize etmek için tasarlanmış bir çıkarım çalışma zamanıdır. Doğruluğu korurken hesaplama taleplerini önemli ölçüde azaltmak için seyreklik, budama ve niceleme gibi gelişmiş teknikler uygular. DeepSparse, çeşitli cihazlarda verimli ve ölçeklenebilir sinir ağı yürütme için çevik bir çözüm sunar.

Neural Magic'un DeepSparse ile Entegrasyonunun Faydaları YOLO11

DeepSparse kullanarak YOLOV8 adresinin nasıl dağıtılacağına geçmeden önce, DeepSparse kullanmanın faydalarını anlayalım. Bazı önemli avantajlar şunlardır:

• Geliştirilmiş Çıkarım Hızı: 525 FPS'ye (YOLO11n'de) kadar ulaşarak YOLO11'un çıkarım yeteneklerini geleneksel yöntemlere kıyasla önemli ölçüde hızlandırır.

• Optimize Edilmiş Model Verimliliği: YOLO11 'un verimliliğini artırmak için budama ve niceleme kullanır, doğruluğu korurken model boyutunu ve hesaplama gereksinimlerini azaltır.

• Standart CPU'larda Yüksek Performans: CPU'larda GPU benzeri performans sunarak çeşitli uygulamalar için daha erişilebilir ve uygun maliyetli bir seçenek sunar.

• Kolaylaştırılmış Entegrasyon ve Dağıtım: Görüntü ve video açıklama özellikleri de dahil olmak üzere YOLO11 'un uygulamalara kolay entegrasyonu için kullanıcı dostu araçlar sunar.

• Çeşitli Model Türleri için Destek: Hem standart hem de seyreklik için optimize edilmiş YOLO11 modelleriyle uyumludur ve dağıtım esnekliği sağlar.

• Uygun Maliyetli ve Ölçeklenebilir Çözüm: Operasyonel giderleri azaltır ve gelişmiş nesne algılama modellerinin ölçeklenebilir dağıtımını sunar.

Neural Magic'un DeepSparse Teknolojisi Nasıl Çalışır?

Neural Magic'nin Deep Sparse teknolojisi, insan beyninin sinir ağı hesaplamasındaki verimliliğinden esinlenmiştir. Beyinden aşağıdaki gibi iki temel ilkeyi benimser:

• Seyreklik: Seyrekleştirme süreci, derin öğrenme ağlarındaki gereksiz bilgilerin budanmasını içerir ve doğruluktan ödün vermeden daha küçük ve daha hızlı modellere yol açar. Bu teknik, ağın boyutunu ve hesaplama ihtiyaçlarını önemli ölçüde azaltır.

• Referansın Yerelliği: DeepSparse, ağı Tensor Sütunlarına bölen benzersiz bir yürütme yöntemi kullanır. Bu sütunlar, tamamen CPU'un önbelleğine sığacak şekilde derinlemesine yürütülür. Bu yaklaşım beynin verimliliğini taklit ederek veri hareketini en aza indirir ve CPU'un önbellek kullanımını en üst düzeye çıkarır.

Neural Magic'un DeepSparse teknolojisinin nasıl çalıştığı hakkında daha fazla ayrıntı için blog gönderilerine göz atın.

Özel Bir Veri Kümesi Üzerinde Eğitilmiş YOLO11 'un Seyrek Bir Sürümünü Oluşturma

Neural Magic tarafından geliştirilen açık kaynaklı bir model deposu olan SparseZoo, önceden ayrıştırılmış YOLO11 model kontrol noktalarından oluşan bir koleksiyon sunmaktadır. Ultralytics ile sorunsuz bir şekilde entegre olan SparseML ile kullanıcılar, basit bir komut satırı arayüzü kullanarak bu seyrek kontrol noktalarına kendi özel veri kümelerinde zahmetsizce ince ayar yapabilirler.

Daha fazla ayrıntı için Neural Magic'un SparseML YOLO11 belgelerine göz atın.

Kullanım: DeepSparse kullanarak YOLOV8 adresini dağıtma

YOLO11 adresini Neural Magic's DeepSparse ile dağıtmak birkaç basit adımı içerir. Kullanım talimatlarına geçmeden önce, Ultralytics tarafından sunulanYOLO11 modelleri yelpazesine göz attığınızdan emin olun. Bu, proje gereksinimleriniz için en uygun modeli seçmenize yardımcı olacaktır. İşte nasıl başlayabileceğiniz.

Adım 1: Kurulum

Gerekli paketleri yüklemek için çalıştırın:

# Install the required packages
pip install deepsparse[yolov8]

Adım 2: YOLO11 adresini ONNX Formatına Aktarma

DeepSparse Engine, YOLO11 modellerinin ONNX biçiminde olmasını gerektirir. Modelinizi bu formata aktarmak DeepSparse ile uyumluluk için gereklidir. YOLO11 modellerini dışa aktarmak için aşağıdaki komutu kullanın:

# Export YOLO11 model to ONNX format
yolo task=detect mode=export model=yolo11n.pt format=onnx opset=13

Bu komut aşağıdakileri kaydedecektir yolo11n.onnx modelini diskinize yükleyin.

Adım 3: Çıkarımları Dağıtma ve Çalıştırma

YOLO11 modeliniz ONNX biçimindeyken DeepSparse kullanarak çıkarımları dağıtabilir ve çalıştırabilirsiniz. Bu, sezgisel Python API'si ile kolayca yapılabilir:

from deepsparse import Pipeline

# Specify the path to your YOLO11 ONNX model
model_path = "path/to/yolo11n.onnx"

# Set up the DeepSparse Pipeline
yolo_pipeline = Pipeline.create(task="yolov8", model_path=model_path)

# Run the model on your images
images = ["path/to/image.jpg"]
pipeline_outputs = yolo_pipeline(images=images)

Adım 4: Performans Karşılaştırması

YOLO11 modelinizin DeepSparse üzerinde en iyi şekilde çalışıp çalışmadığını kontrol etmek önemlidir. Verim ve gecikme süresini analiz etmek için modelinizin performansını kıyaslayabilirsiniz:

# Benchmark performance
deepsparse.benchmark model_path="path/to/yolo11n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

Adım 5: Ek Özellikler

DeepSparse, görüntü açıklama ve veri kümesi değerlendirmesi gibi uygulamalarda YOLO11 'un pratik entegrasyonu için ek özellikler sağlar.

# For image annotation
deepsparse.yolov8.annotate --source "path/to/image.jpg" --model_filepath "path/to/yolo11n.onnx"

# For evaluating model performance on a dataset
deepsparse.yolov8.eval --model_path "path/to/yolo11n.onnx"

Annotate komutunu çalıştırmak, belirttiğiniz görüntüyü işler, nesneleri algılar ve sınırlayıcı kutular ve sınıflandırmalarla birlikte açıklamalı görüntüyü kaydeder. Açıklamalı görüntü bir annotation-results klasöründe saklanacaktır. Bu, modelin algılama yeteneklerinin görsel bir temsilini sağlamaya yardımcı olur.

eval komutunu çalıştırdıktan sonra, hassasiyet, geri çağırma ve mAP (ortalama Ortalama Hassasiyet) gibi ayrıntılı çıktı ölçümleri alacaksınız. Bu, modelinizin veri kümesi üzerindeki performansına ilişkin kapsamlı bir görünüm sağlar. Bu işlevsellik, YOLO11 modellerinizi belirli kullanım durumları için ince ayar yapmak ve optimize etmek, yüksek doğruluk ve verimlilik sağlamak için özellikle yararlıdır.

Özet

Bu kılavuzda Ultralytics' YOLO11 ile Neural Magic'DeepSparse Engine'in entegrasyonu incelenmiştir. Bu entegrasyonun YOLO11'un CPU platformlarındaki performansını nasıl artırdığı, GPU düzeyinde verimlilik ve gelişmiş sinir ağı seyreklik teknikleri sunduğu vurgulanmıştır.

Daha ayrıntılı bilgi ve gelişmiş kullanım için Neural Magic'un DeepSparse belgelerini ziyaret edin. Ayrıca, Neural Magic'un YOLO11 ile entegrasyon hakkındaki belgelerineburadan göz atın ve bu konudaki harika bir oturumu buradan izleyin.

Ayrıca, çeşitli YOLO11 entegrasyonları hakkında daha geniş bir anlayış için, bir dizi diğer heyecan verici entegrasyon olasılığını keşfedebileceğiniz Ultralytics entegrasyon kılavuzu sayfasını ziyaret edin.

SSS

Neural Magic'un DeepSparse Motoru nedir ve YOLO11 performansını nasıl optimize eder?

Neural MagicDeepSparse Engine, seyreklik, budama ve niceleme gibi gelişmiş teknikler aracılığıyla CPU'larda sinir ağlarının yürütülmesini optimize etmek için tasarlanmış bir çıkarım çalışma zamanıdır. DeepSparse'ı YOLO11 ile entegre ederek, standart CPU'larda GPU benzeri bir performans elde edebilir, doğruluğu korurken çıkarım hızını, model verimliliğini ve genel performansı önemli ölçüde artırabilirsiniz. Daha fazla ayrıntı için Neural Magic'un DeepSparse bölümüne göz atın.

Neural Magic's DeepSparse kullanarak YOLO11 dağıtmak için gerekli paketleri nasıl yükleyebilirim?

YOLO11 adresini Neural Magic's DeepSparse ile dağıtmak için gerekli paketleri yüklemek kolaydır. Bunları CLI adresini kullanarak kolayca yükleyebilirsiniz. İşte çalıştırmanız gereken komut:

pip install deepsparse[yolov8]

Kurulduktan sonra, ortamınızı ayarlamak ve DeepSparse'ı YOLO11 ile kullanmaya başlamak için Kurulum bölümünde verilen adımları izleyin.

DeepSparse ile kullanmak için YOLO11 modellerini ONNX formatına nasıl dönüştürebilirim?

YOLO11 modellerini DeepSparse ile uyumluluk için gerekli olan ONNX formatına dönüştürmek için aşağıdaki CLI komutunu kullanabilirsiniz:

yolo task=detect mode=export model=yolo11n.pt format=onnx opset=13

Bu komut YOLO11 modelinizi (yolo11n.pt) bir biçime (yolo11n.onnx) DeepSparse Motoru tarafından kullanılabilir. Model dışa aktarma hakkında daha fazla bilgi için Model Dışa Aktarma bölümü.

DeepSparse Engine üzerinde YOLO11 performansını nasıl kıyaslayabilirim?

DeepSparse üzerinde YOLO11 performansını kıyaslamak, modelinizin optimize edildiğinden emin olmak için verim ve gecikme süresini analiz etmenize yardımcı olur. Bir kıyaslama çalıştırmak için aşağıdaki CLI komutunu kullanabilirsiniz:

deepsparse.benchmark model_path="path/to/yolo11n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

Bu komut size önemli performans ölçümleri sağlayacaktır. Daha fazla ayrıntı için Performansı Kıyaslama bölümüne bakın.

Nesne algılama görevleri için neden Neural Magic'un DeepSparse'ını YOLO11 ile kullanmalıyım?

Neural Magic'un DeepSparse'ını YOLO11 ile entegre etmek çeşitli avantajlar sunar:

• Geliştirilmiş Çıkarım Hızı: 525 FPS'ye kadar ulaşarak YOLO11'un yeteneklerini önemli ölçüde hızlandırır.
• Optimize Edilmiş Model Verimliliği: Doğruluğu korurken model boyutunu ve hesaplama ihtiyaçlarını azaltmak için seyreklik, budama ve niceleme tekniklerini kullanır.
• Standart CPU'larda Yüksek Performans: Uygun maliyetli CPU donanımında GPU benzeri performans sunar.
• Kolaylaştırılmış Entegrasyon: Kolay dağıtım ve entegrasyon için kullanıcı dostu araçlar.
• Esneklik: Hem standart hem de seyreklik için optimize edilmiş YOLO11 modellerini destekler.
• Uygun Maliyetli: Etkin kaynak kullanımı sayesinde operasyonel giderleri azaltır.

Bu avantajları daha derinlemesine incelemek için Neural Magic'un DeepSparse'ını YOLO11 ile Entegre Etmenin Faydaları bölümünü ziyaret edin.

📅1 1 ay önce oluşturuldu ✏️ 2 ay önce güncellendi

Yorumlar