Axelera AI Dışa Aktarma ve Dağıtım

Ultralytics, Axelera AI ile iş birliği yaparak Edge AI cihazlarında yüksek performanslı, enerji verimli çıkarım yapılmasını sağlıyor. Voyager SDK kullanarak Ultralytics YOLO modellerini doğrudan Metis® AIPU'ya aktarın ve dağıtın.

Axelera AI, tescilli bir veri akışı mimarisi ve bellek içi hesaplama kullanarak, düşük güç tüketimiyle 856 TOPS'a kadar performans sunarak kenarda bilgisayar görüşü için özel donanım hızlandırma sağlar.

Doğru Donanımı Seçmek

Axelera AI, farklı dağıtım kısıtlamalarına uyacak şekilde çeşitli form faktörleri sunar. Aşağıdaki tablo, Ultralytics YOLO dağıtımınız için en uygun donanımı belirlemenize yardımcı olur.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Donanım Portföyü

Axelera donanım serisi, yüksek FPS-per-watt verimliliği ile Ultralytics YOLO11'i ve eski sürümleri çalıştırmak için optimize edilmiştir.

Hızlandırıcı Kartları

Bu kartlar, mevcut ana cihazlarda yapay zeka hızlandırmayı mümkün kılarak mevcut altyapı dağıtımlarını kolaylaştırır.

Entegre Sistemler

Anahtar teslimi çözümler için Axelera, Metis AIPU için önceden doğrulanmış sistemler sağlamak üzere üreticilerle ortaklık kurmaktadır.

• Metis İşlem Kartı: Metis AIPU'yu bir Rockchip RK3588 ARM CPU ile eşleştiren bağımsız bir uç cihaz.
• İş istasyonları: Dell (Precision 3460XE) ve Lenovo (ThinkStation P360 Ultra) şirketlerinden kurumsal kuleler.
• Endüstriyel PC'ler: Üretim otomasyonu için tasarlanmış Advantech ve Aetina'dan sağlamlaştırılmış sistemler.

Desteklenen Görevler

Şu anda, Nesne Detect modelleri Axelera formatına dışa aktarılabilir. Ek görevler entegre ediliyor:

Kurulum

Ultralytics Kurulumu

pip install ultralytics

Ayrıntılı talimatlar için Ultralytics Kurulum kılavuzumuza bakın. Zorluklarla karşılaşırsanız, Ortak Sorunlar kılavuzumuza danışın.

Axelera Sürücü Kurulumu

1. Axelera depo anahtarını ekleyin:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"
   

2. Depoyu apt'ye ekleyin:

   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
   

3. SDK'yı kurun ve sürücüyü yükleyin:

   sudo apt update
   sudo apt install -y axelera-voyager-sdk-base
   sudo modprobe metis
   yes | sudo /opt/axelera/sdk/latest/axelera_fix_groups.sh $USER
   

YOLO Modellerini Axelera'ya Aktarma

Eğitilmiş YOLO modellerinizi standart Ultralytics dışa aktarma komutunu kullanarak dışa aktarın.

from ultralytics import YOLO

# Load a YOLO11 model
model = YOLO("yolo11n.pt")

# Export to Axelera format
model.export(format="axelera")  # creates 'yolo11n_axelera_model' directory

yolo export model=yolo11n.pt format=axelera

Dışa Aktarma Argümanları

Tüm dışa aktarma seçenekleri için Dışa Aktarma Modu belgelerine bakın.

Çıktı Yapısı

yolo11n_axelera_model/
├── yolo11n.axm              # Axelera model file
└── metadata.yaml            # Model metadata (classes, image size, etc.)

Çıkarım Çalıştırma

Dışa aktarılan modeli Ultralytics API ile yükleyin ve ONNX modellerini yüklemeye benzer şekilde çıkarım yapın.

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo11n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Process results
for r in results:
    print(f"Detected {len(r.boxes)} objects")
    r.show()  # Display results

yolo predict model='yolo11n_axelera_model' source='https://ultralytics.com/images/bus.jpg'

Çıkarım Performansı

Metis AIPU, enerji tüketimini en aza indirirken verimi en üst düzeye çıkarır.

Axelera AI verilerine dayalı karşılaştırmalar. Gerçek FPS; model boyutuna, gruplamaya ve giriş çözünürlüğüne bağlıdır.

Gerçek Dünya Uygulamaları

Axelera donanımında Ultralytics YOLO, gelişmiş uç bilişim çözümleri sağlar:

• Akıllı Perakende: Mağaza optimizasyonu için gerçek zamanlı nesne sayma ve ısı haritası analitiği.
• Endüstriyel Güvenlik: Üretim ortamlarında düşük gecikmeli KKD algılama.
• Drone Analitiği: Nesne tespiti için İHA'lar üzerinde yüksek hızlı nesne tespiti.
• Trafik Sistemleri: Uç tabanlı plaka tanıma ve hız tahmini.

Önerilen İş Akışı

1. Modelinizi Ultralytics Eğitim Modu'nu kullanarak eğitin
2. Dışa aktar Axelera formatına dönüştürmek için model.export(format="axelera")
3. Doğrula doğruluk ile yolo val minimal niceleme kaybını doğrulamak için
4. Tahmin et kullanarak yolo predict nitel doğrulama için

Cihaz Sağlık Kontrolü

Axelera cihazınızın düzgün çalıştığını doğrulayın:

. /opt/axelera/sdk/latest/axelera_activate.sh
axdevice

Ayrıntılı tanılama için AxDevice belgelerine bakın.

Maksimum Performans

Bu entegrasyon, uyumluluk için tek çekirdekli yapılandırma kullanır. Maksimum verim gerektiren üretim ortamları için Axelera Voyager SDK şunları sunar:

• Çok çekirdekli kullanım (dört çekirdekli Metis AIPU)
• Akış çıkarım hatları
• Daha yüksek çözünürlüklü kameralar için döşemeli çıkarım

FPS karşılaştırmaları için model-zoo'ya bakın veya üretim desteği için Axelera ile iletişime geçin.

Bilinen Sorunlar

Destek için Axelera Topluluğu'nu ziyaret edin.

SSS

Axelera'da hangi YOLO sürümleri desteklenmektedir?

Voyager SDK, YOLOv8 ve YOLO11 modellerinin dışa aktarımını destekler.

Özel eğitilmiş modelleri dağıtabilir miyim?

Evet. Ultralytics Train Mode kullanılarak eğitilen herhangi bir model, desteklenen katmanları ve işlemleri kullanması koşuluyla Axelera formatına aktarılabilir.

INT8 nicelemesi doğruluğu nasıl etkiler?

Axelera'nın Voyager SDK'sı, karma hassasiyetli AIPU mimarisi için modelleri otomatik olarak niceler. Çoğu nesne tespiti görev için, performans kazanımları (daha yüksek FPS, daha düşük güç), üzerindeki minimal etkiyi önemli ölçüde geride bırakır. mAP. Niceleme, model boyutuna bağlı olarak saniyelerden birkaç saate kadar sürebilir. Çalıştırın yolo val dışa aktarımdan sonra doğruluğu doğrulamak için.

Kaç kalibrasyon görüntüsü kullanmalıyım?

100 ila 400 görüntü kullanmanızı öneririz. 400'den fazla görüntü ek bir fayda sağlamaz ve nicemleme süresini artırır. Optimal dengeyi bulmak için 100, 200 ve 400 görüntü ile deneyler yapın.

Voyager SDK'sını nerede bulabilirim?

SDK, sürücüler ve derleyici araçları Axelera Geliştirici Portalı aracılığıyla edinilebilir.

📅 20 gün önce oluşturuldu ✏️ 3 gün önce güncellendi

Yorumlar