Axelera AI Dışa Aktarma ve Dağıtım#

Ultralytics, Edge AI cihazlarında yüksek performanslı, enerji verimliliği yüksek çıkarım sağlamak için Axelera AI ile iş birliği yapar. Voyager SDK kullanarak Ultralytics YOLO modellerini doğrudan Metis® AIPU üzerine dışarı aktar ve dağıt.

Axelera AI, düşük güç tüketimiyle 856 TOPS değerine kadar performans sunmak için tescilli bir veri akışı mimarisi ve bellek içi bilgi işlem kullanarak uçta computer vision için özel donanım hızlandırması sağlar.

Doğru Donanımı Seçme#

Axelera AI, farklı dağıtım kısıtlamalarına uyum sağlamak için çeşitli form faktörleri sunar. Aşağıdaki tablo, Ultralytics YOLO dağıtımın için en uygun donanımı belirlemene yardımcı olur.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Donanım Portföyü#

Axelera donanım serisi; Ultralytics YOLO26 ve eski sürümleri yüksek watt başına FPS verimliliğiyle çalıştırmak için optimize edilmiştir.

Hızlandırıcı Kartlar#

Bu kartlar, mevcut ana bilgisayar cihazlarında AI hızlandırmasını etkinleştirerek mevcut altyapıyla entegre dağıtımları kolaylaştırır.

Entegre Sistemler#

Anahtar teslim çözümler için Axelera, Metis AIPU için önceden doğrulanmış sistemler sağlamak üzere üreticilerle iş birliği yapar.

• Metis İşlem Kartı: Metis AIPU ile Rockchip RK3588 ARM CPU birimini eşleştiren bağımsız bir uç cihaz.
• İş İstasyonları: Dell (Precision 3460XE) ve Lenovo (ThinkStation P360 Ultra) şirketlerinden kurumsal kule tipi bilgisayarlar.
• Endüstriyel Bilgisayarlar: Üretim otomasyonu için tasarlanmış Advantech ve Aetina'dan dayanıklı sistemler.

Desteklenen Görevler#

Derinlik tahmini desteklenmez: derinlik başlığı, Metis AIPU derleyicisinin alt seviyeye çeviremediği operatörler yayar. YOLO26 segmentasyonu da Ultralytics export tarafından desteklenmez, ancak aşağıda açıklandığı gibi Voyager SDK aracılığıyla yine de dağıtılabilir.

Kurulum#

Ultralytics Kurulumu#

pip install ultralytics

Ayrıntılı talimatlar için Ultralytics Kurulum kılavuzumuza göz at. Zorluklarla karşılaşırsan Yaygın Sorunlar kılavuzumuza başvur.

Axelera Sürücü Kurulumu#

1. Axelera depo anahtarını ekle:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Depoyu apt'ye ekle:

   Kullandığın işletim sistemiyle eşleşen uygun kod parçacığını aşağıdan seç.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. SDK'yi kur ve sürücüyü yükle:

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

YOLO Modellerini Axelera'ya Aktarma#

Axelera formatı Dışa Aktar, Tahmin Et ve Doğrula modlarını destekler. Çıkarım ve doğrulama Axelera Metis AIPU donanımında çalışır. Modelini dışa aktar, ardından çıkarım çalıştırmak veya doğruluğunu onaylamak için dışa aktarılan modeli yükle.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Dışa Aktarma Argümanları#

Tüm dışa aktarma seçenekleri için Dışa Aktarma Modu belgelerine göz at.

Çıktı Yapısı#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Axelera AI Karşılaştırmalı Testleri (Benchmark)#

Metis AIPU, enerji tüketimini en aza indirirken iş hacmini en üst düzeye çıkarır.

Karşılaştırmalı testler Axelera AI verilerine dayanmaktadır. Gerçek FPS; model boyutuna, yığınlamaya ve giriş çözünürlüğüne bağlıdır.

Gerçek Dünya Uygulamaları#

Axelera donanımı üzerinde Ultralytics YOLO, gelişmiş uç bilişim çözümlerini mümkün kılar:

• Akıllı Perakende: Mağaza optimizasyonu için gerçek zamanlı nesne sayma ve ısı haritası analitiği.
• Endüstriyel Güvenlik: Üretim ortamlarında düşük gecikmeli KKD tespiti.
• Drone Analitiği: Tarım ve arama-kurtarma için İHA'larda yüksek hızlı nesne algılama.
• Trafik Sistemleri: Uç tabanlı plaka tanıma ve hız tahmini.

Önerilen İş Akışı#

1. Ultralytics Eğitim Modunu kullanarak modelini Eğit
2. model.export(format="axelera") kullanarak Axelera formatına Dışa Aktar
3. Minimum niceleme kaybını doğrulamak için yolo val ile doğruluğu Doğrula
4. Niteliksel doğrulama için yolo predict kullanarak Tahmin Et
5. PyTorch bağımlılığı olmadan yüksek performanslı uçtan uca bir boru hattına Dağıt — axelera-rt kullanan bileşenli Python boru hatları için YOLO on Voyager SDK examples sayfasına göz at.

Cihaz Sağlık Kontrolü#

Axelera cihazının düzgün çalıştığını doğrula:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Ayrıntılı tanılama için AxDevice belgelerine göz at.

Maksimum Performans#

Bu entegrasyon, uyumluluk için tek çekirdekli yapılandırma kullanır. Maksimum verimlilik gerektiren üretim ortamları için Axelera Voyager SDK şunları sunar:

• Çok çekirdekli kullanım (dört çekirdekli Metis AIPU)
• Akış çıkarım işlem hatları
• Daha yüksek çözünürlüklü kameralar için döşemeli (tiled) çıkarım

FPS kıyaslamaları için model havuzuna veya üretim desteği için Axelera ile iletişime geç.

Bilinen Sorunlar#

Destek için Axelera Topluluğunu ziyaret et.

SSS#

Axelera üzerinde hangi YOLO sürümleri destekleniyor?#

Voyager SDK; YOLOv8, YOLO11 ve YOLO26 modellerinin dışa aktarılmasını destekler. Model başına görev kullanılabilirliği için Desteklenen Görevler bölümüne göz at.

Özel eğitimli modelleri dağıtabilir miyim?#

Evet. Desteklenen katmanları ve işlemleri kullandığı sürece, Ultralytics Eğitim Modu kullanılarak eğitilen herhangi bir model Axelera formatına aktarılabilir.

INT8 kuantizasyonu doğruluğu nasıl etkiler?#

Axelera'nın Voyager SDK'sı, karışık hassasiyetli AIPU mimarisi için modelleri otomatik olarak niceler. Çoğu nesne tespiti görevi için performans kazanımları (daha yüksek FPS, daha düşük güç), mAP üzerindeki minimum etkiyi fazlasıyla telafi eder. Niceleme, model boyutuna bağlı olarak saniyeler ila birkaç saat sürer. Doğruluğu doğrulamak için dışa aktardıktan sonra yolo val çalıştır.

Kaç tane kalibrasyon görseli kullanmalıyım?#

100 ila 400 görsel kullanmanı öneririz. 400'den fazlası ek bir fayda sağlamaz ve kuantizasyon süresini uzatır. En uygun dengeyi bulmak için 100, 200 ve 400 görsellerle denemeler yap.

Voyager SDK'yı nerede bulabilirim?#

SDK, sürücüler ve derleyici araçları Axelera Geliştirici Portalı üzerinden edinilebilir.