Axelera AI Dışa Aktarımı ve Dağıtımı

Ultralytics partners with Axelera AI to enable high-performance, energy-efficient inference on Edge AI devices. Export and deploy Ultralytics YOLO models directly to the Metis® AIPU using the Voyager SDK.

Axelera AI provides dedicated hardware acceleration for computer vision at the edge, using a proprietary dataflow architecture and in-memory computing to deliver up to 856 TOPS with low power consumption.

Doğru Donanımı Seçmek

Axelera AI, farklı dağıtım kısıtlamalarına uyacak çeşitli form faktörleri sunar. Aşağıdaki tablo, Ultralytics YOLO dağıtımın için en uygun donanımı belirlemene yardımcı olur.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Donanım Portföyü

Axelera donanım serisi, Ultralytics YOLO26 ve eski sürümleri yüksek watt başına FPS verimliliğiyle çalıştırmak için optimize edilmiştir.

Hızlandırıcı Kartlar

Bu kartlar, mevcut ana bilgisayarlarda yapay zeka hızlandırmayı mümkün kılarak eski sistemlerle entegre dağıtımları kolaylaştırır.

Entegre Sistemler

Anahtar teslim çözümler için Axelera, Metis AIPU için önceden doğrulanmış sistemler sağlamak üzere üreticilerle iş birliği yapar.

• Metis İşlem Kartı: Metis AIPU'yu bir Rockchip RK3588 ARM CPU ile eşleştiren bağımsız bir uç cihaz.
• İş İstasyonları: Dell (Precision 3460XE) ve Lenovo (ThinkStation P360 Ultra) şirketlerinden kurumsal kule tipi sistemler.
• Endüstriyel PC'ler: Üretim otomasyonu için tasarlanmış Advantech ve Aetina'dan dayanıklı sistemler.

Desteklenen Görevler

Aşağıdaki görevler YOLOv8, YOLO11 ve YOLO26 modellerinde desteklenmektedir.

Kurulum

Ultralytics Kurulumu

pip install ultralytics

Ayrıntılı talimatlar için Ultralytics Kurulum kılavuzumuza bak. Sorun yaşarsan Yaygın Sorunlar kılavuzumuza danış.

Axelera Sürücü Kurulumu

1. Axelera depo anahtarını ekle:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Depoyu apt'ye ekle:

   Kullandığın işletim sistemine uygun parçayı aşağıdan seç.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. SDK'yi kur ve sürücüyü yükle:

   sudo apt update
   sudo apt install -y metis-dkms=1.4.16
   sudo modprobe metis

pip install axelera-devkit==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

YOLO Modellerini Axelera'ya Dışa Aktarma

Eğittiğin YOLO modellerini standart Ultralytics dışa aktarma komutunu kullanarak aktar.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model' directory

Dışa Aktarma Argümanları

Tüm dışa aktarma seçenekleri için Dışa Aktarma Modu belgelerine bak.

Çıktı Yapısı

yolo26n_axelera_model/
├── yolo26n.axm              # Axelera model file
└── metadata.yaml            # Model metadata (classes, image size, etc.)

Çıkarım Çalıştırma

Dışa aktarılan modeli Ultralytics API ile yükle ve ONNX modellerini yüklemeye benzer şekilde çıkarım yap.

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Process results
for r in results:
    print(f"Detected {len(r.boxes)} objects")
    r.show()  # Display results

Axelera AI Kıyaslamaları

Metis AIPU, enerji tüketimini en aza indirirken iş hacmini en üst düzeye çıkarır.

Kıyaslamalar Axelera AI verilerine dayanmaktadır. Gerçek FPS, model boyutuna, gruplandırmaya ve giriş çözünürlüğüne bağlıdır.

Gerçek Dünya Uygulamaları

Axelera donanımı üzerinde Ultralytics YOLO, gelişmiş uç bilgi işlem çözümlerini mümkün kılar:

• Akıllı Perakende: Mağaza optimizasyonu için gerçek zamanlı nesne sayımı ve ısı haritası analitiği.
• Endüstriyel Güvenlik: Üretim ortamlarında düşük gecikmeli KKD tespiti.
• Drone Analytics: High-speed object detection on UAVs for agriculture and search-and-rescue.
• Traffic Systems: Edge-based license plate recognition and speed estimation.

Önerilen İş Akışı

1. Ultralytics Eğitim Modunu kullanarak modelini eğit
2. model.export(format="axelera") kullanarak Axelera formatına dışa aktar
3. Minimum nicemleme kaybını doğrulamak için yolo val ile doğruluğu doğrula
4. Niteliksel doğrulama için yolo predict kullanarak tahmin et
5. Deploy to a high-performance end-to-end pipeline without PyTorch dependency — see the YOLO on Voyager SDK examples for composable Python pipelines using axelera-rt

Cihaz Sağlık Kontrolü

Axelera cihazının düzgün çalışıp çalışmadığını doğrula:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Detaylı tanılama için AxDevice belgelerine göz at.

Maksimum Performans

Bu entegrasyon, uyumluluk için tek çekirdekli yapılandırma kullanır. Maksimum iş hacmi gerektiren üretim ortamları için Axelera Voyager SDK şunları sunar:

• Çok çekirdekli kullanım (dört çekirdekli Metis AIPU)
• Akışlı çıkarım hatları
• Daha yüksek çözünürlüklü kameralar için döşemeli (tiled) çıkarım

FPS kıyaslamaları için model-zoo kısmına bak veya üretim desteği için Axelera ile iletişime geç.

Bilinen Sorunlar

Destek almak için Axelera Topluluğu sayfasını ziyaret et.

SSS

Axelera üzerinde hangi YOLO sürümleri destekleniyor?

Voyager SDK; YOLOv8, YOLO11 ve YOLO26 modellerinin dışa aktarımını destekler. Modele özel görev kullanılabilirliği için Desteklenen Görevler kısmına bak.

Özel eğitilmiş modellerimi dağıtabilir miyim?

Evet. Desteklenen katmanları ve işlemleri kullandığı sürece, Ultralytics Eğitim Modu kullanılarak eğitilen herhangi bir model Axelera formatına aktarılabilir.

INT8 niceleme (quantization) doğruluğu nasıl etkiler?

Axelera'nın Voyager SDK'sı, karma hassasiyetli AIPU mimarisi için modelleri otomatik olarak nicelemektedir. Çoğu nesne tespiti görevi için, elde edilen performans kazanımları (daha yüksek FPS, daha düşük güç tüketimi), mAP üzerindeki minimal etkiden çok daha fazladır. Niceleme işlemi, model boyutuna bağlı olarak birkaç saniyeden birkaç saate kadar sürebilir. Doğruluğu doğrulamak için dışa aktarım sonrası yolo val komutunu çalıştır.

Kaç adet kalibrasyon görüntüsü kullanmalıyım?

100 ila 400 görüntü kullanmanı öneririz. 400'den fazlası ek bir fayda sağlamaz ve niceleme süresini artırır. Optimum dengeyi bulmak için 100, 200 ve 400 görüntülerle denemeler yap.

Voyager SDK'yı nerede bulabilirim?

SDK, sürücüler ve derleyici araçlarına Axelera Geliştirici Portalı üzerinden ulaşabilirsin.