İçeriğe geç

Rockchip RKNN Export for Ultralytics YOLO11 Modeller

Bilgisayarla görme modellerini gömülü cihazlara, özellikle de Rockchip işlemcilerle çalışanlara yerleştirirken uyumlu bir model formatına sahip olmak çok önemlidir. Dışa aktarma Ultralytics YOLO11 modelleri RKNN formatına dönüştürmek, Rockchip'in donanımıyla optimize edilmiş performans ve uyumluluk sağlar. Bu kılavuz, YOLO11 modellerinizi RKNN formatına dönüştürerek Rockchip platformlarında verimli bir dağıtım sağlamanıza yardımcı olacaktır.

RKNN

Not

Bu kılavuz, Rockchip RK3588 tabanlı Radxa Rock 5B ve Rockchip RK3566 tabanlı Radxa Zero 3W ile test edilmiştir. RK3576, RK3568, RK3562, RV1103, RV1106, RV1103B, RV1106B ve RK2118 gibi rknn-toolkit2 'yi destekleyen diğer Rockchip tabanlı cihazlarda da çalışması beklenmektedir.

Rockchip nedir?

Çok yönlü ve güç tasarruflu çözümler sunmasıyla tanınan Rockchip, çok çeşitli tüketici elektroniği, endüstriyel uygulamalar ve yapay zeka teknolojilerine güç veren gelişmiş System-on-Chips (SoC'ler) tasarlar. ARM tabanlı mimari, yerleşik Sinir İşleme Birimleri (NPU'lar) ve yüksek çözünürlüklü multimedya desteği ile Rockchip SoC'ler tabletler, akıllı TV'ler, IoT sistemleri ve uç yapay zeka uygulamaları gibi cihazlar için üstün performans sağlar. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi şirketler Rockchip SoC'lere dayalı çeşitli ürünler sunarak farklı pazarlardaki erişimlerini ve etkilerini daha da genişletiyor.

RKNN Araç Seti

RKNN Toolkit, Rockchip tarafından donanım platformlarında derin öğrenme modellerinin dağıtımını kolaylaştırmak için sağlanan bir dizi araç ve kütüphanedir. RKNN veya Rockchip Neural Network, bu araçlar tarafından kullanılan tescilli formattır. RKNN modelleri, Rockchip'in NPU'su (Nöral İşlem Birimi) tarafından sağlanan donanım hızlandırmasından tam olarak yararlanmak üzere tasarlanmıştır ve RK3588, RK3566, RV1103, RV1106 ve diğer Rockchip destekli sistemler gibi cihazlarda yapay zeka görevlerinde yüksek performans sağlar.

RKNN Modellerinin Temel Özellikleri

RKNN modelleri, Rockchip platformlarında dağıtım için çeşitli avantajlar sunar:

  • NPU için optimize edilmiştir: RKNN modelleri, Rockchip'in NPU'larında çalışacak şekilde özel olarak optimize edilmiştir ve maksimum performans ve verimlilik sağlar.
  • Düşük Gecikme Süresi: RKNN formatı, uç cihazlardaki gerçek zamanlı uygulamalar için kritik olan çıkarım gecikmesini en aza indirir.
  • Platforma Özel Özelleştirme: RKNN modelleri belirli Rockchip platformlarına göre uyarlanabilir ve donanım kaynaklarının daha iyi kullanılmasını sağlar.

Rockchip donanımına Flash OS

Rockchip tabanlı bir cihazı elinize aldıktan sonraki ilk adım, donanımın çalışma ortamına geçebilmesi için bir işletim sistemi flashlamaktır. Bu kılavuzda, test ettiğimiz iki cihaz olan Radxa Rock 5B ve Radxa Zero 3W'nin başlangıç kılavuzlarına işaret edeceğiz.

RKNN'ye Aktarma: YOLO11 Modelinizi Dönüştürme

Bir Ultralytics YOLO11 modelini RKNN formatına dışa aktarın ve dışa aktarılan modelle çıkarım çalıştırın.

Not

Modeli RKNN'ye aktarmak için X86 tabanlı bir Linux PC kullandığınızdan emin olun çünkü Rockchip tabanlı cihazlarda (ARM64) dışa aktarma desteklenmez.

Kurulum

Gerekli paketleri yüklemek için çalıştırın:

Kurulum

# Install the required package for YOLO11
pip install ultralytics

Kurulum süreciyle ilgili ayrıntılı talimatlar ve en iyi uygulamalar için Ultralytics Kurulum kılavuzumuza göz atın. YOLO11 için gerekli paketleri yüklerken herhangi bir zorlukla karşılaşırsanız, çözümler ve ipuçları için Ortak Sorunlar kılavuz umuza başvurun.

Kullanım

Not

Dışa aktarma şu anda yalnızca algılama modelleri için desteklenmektedir. Gelecekte daha fazla model desteği gelecektir.

Kullanım

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to RKNN format
# 'name' can be one of rk3588, rk3576, rk3566, rk3568, rk3562, rv1103, rv1106, rv1103b, rv1106b, rk2118
model.export(format="rknn", name="rk3588")  # creates '/yolo11n_rknn_model'
# Export a YOLO11n PyTorch model to RKNN format
# 'name' can be one of rk3588, rk3576, rk3566, rk3568, rk3562, rv1103, rv1106, rv1103b, rv1106b, rk2118
yolo export model=yolo11n.pt format=rknn name=rk3588  # creates '/yolo11n_rknn_model'

Dışa Aktarma Argümanları

Tartışma Tip Varsayılan Açıklama
format str rknn Dışa aktarılan model için hedef format, çeşitli dağıtım ortamlarıyla uyumluluğu tanımlar.
imgsz int veya tuple 640 Model girişi için istenen görüntü boyutu. Kare görüntüler için bir tamsayı veya bir tuple olabilir (height, width) belirli boyutlar için.
batch int 1 Dışa aktarılan model toplu çıkarım boyutunu veya dışa aktarılan modelin eşzamanlı olarak işleyeceği maksimum görüntü sayısını belirtir predict Mod.
name str rk3588 Rockchip modelini belirtir (rk3588, rk3576, rk3566, rk3568, rk3562, rv1103, rv1106, rv1103b, rv1106b, rk2118)

Dışa aktarma işlemi hakkında daha fazla bilgi için, dışa aktarma ile ilgiliUltralytics dokümantasyon sayfasını ziyaret edin.

Dışa Aktarılan YOLO11 RKNN Modellerini Dağıtma

Ultralytics YOLO11 modellerinizi başarılı bir şekilde RKNN formatına aktardıktan sonra, bir sonraki adım bu modelleri Rockchip tabanlı cihazlara dağıtmaktır.

Kurulum

Gerekli paketleri yüklemek için çalıştırın:

Kurulum

# Install the required package for YOLO11
pip install ultralytics

Kullanım

Kullanım

from ultralytics import YOLO

# Load the exported RKNN model
rknn_model = YOLO("./yolo11n_rknn_model")

# Run inference
results = rknn_model("https://ultralytics.com/images/bus.jpg")
# Run inference with the exported model
yolo predict model='./yolo11n_rknn_model' source='https://ultralytics.com/images/bus.jpg'

Not

RKNN çalışma zamanı sürümünün RKNN Toolkit sürümüyle eşleşmediğini ve çıkarımın başarısız olduğunu belirten bir günlük mesajıyla karşılaşırsanız, lütfen /usr/lib/librknnrt.so resmi librknnrt.so dosyası.

RKNN dışa aktarma ekran görüntüsü

Ölçütler

YOLO11 Aşağıdaki kıyaslamalar Ultralytics ekibi tarafından Rockchip RK3588 tabanlı Radxa Rock 5B üzerinde rknn model formatı ölçüm hızı ve doğruluğu.

Model Biçim Durum Boyut (MB) mAP50-95(B) Çıkarım süresi (ms/im)
YOLO11n rknn 7.4 0.61 99.5
YOLO11s rknn 20.7 0.741 122.3
YOLO11m rknn 41.9 0.764 298.0
YOLO11l rknn 53.3 0.72 319.6
YOLO11x rknn 114.6 0.828 632.1

Not

Yukarıdaki kıyaslama için doğrulama coco8 veri kümesi kullanılarak yapılmıştır

Özet

Bu kılavuzda, Rockchip platformlarında dağıtımlarını geliştirmek için Ultralytics YOLO11 modellerini RKNN formatına nasıl aktaracağınızı öğrendiniz. Ayrıca RKNN Toolkit ve uç yapay zeka uygulamaları için RKNN modellerini kullanmanın özel avantajları ile tanıştınız.

Kullanım hakkında daha fazla bilgi için RKNN resmi belgelerini ziyaret edin.

Ayrıca, diğer Ultralytics YOLO11 entegrasyonları hakkında daha fazla bilgi edinmek isterseniz, entegrasyon kılavuzu sayfamızı ziyaret edin. Orada çok sayıda faydalı kaynak ve bilgi bulacaksınız.

SSS

Ultralytics YOLO modelimi RKNN formatına nasıl aktarabilirim?

Ultralytics YOLO modelinizi RKNN formatına kolayca aktarabilirsiniz. export() yöntemini Ultralytics Python paketinde veya komut satırı arayüzü (CLI) aracılığıyla kullanabilirsiniz. Rockchip gibi ARM64 cihazları bu işlem için desteklenmediğinden, dışa aktarma işlemi için x86 tabanlı bir Linux PC kullandığınızdan emin olun. Hedef Rockchip platformunu aşağıdakileri kullanarak belirtebilirsiniz name argümanı, örneğin rk3588, rk3566veya diğerleri. Bu süreç, hızlandırılmış çıkarım için Sinirsel İşlem Biriminden (NPU) yararlanarak Rockchip cihazınıza yerleştirilmeye hazır optimize edilmiş bir RKNN modeli oluşturur.

Örnek

from ultralytics import YOLO

# Load your YOLO model
model = YOLO("yolo11n.pt")

# Export to RKNN format for a specific Rockchip platform
model.export(format="rknn", name="rk3588")
yolo export model=yolo11n.pt format=rknn name=rk3588

Rockchip cihazlarında RKNN modellerini kullanmanın faydaları nelerdir?

RKNN modelleri, Rockchip'in Sinir İşleme Birimlerinin (NPU'lar) donanım hızlandırma özelliklerinden yararlanmak için özel olarak tasarlanmıştır. Bu optimizasyon, aynı donanım üzerinde ONNX veya TensorFlow Lite gibi genel model formatlarını çalıştırmaya kıyasla önemli ölçüde daha yüksek çıkarım hızları ve daha düşük gecikme süresi sağlar. RKNN modellerinin kullanılması, cihaz kaynaklarının daha verimli kullanılmasını sağlayarak daha düşük güç tüketimi ve daha iyi genel performans sağlar; bu da özellikle uç cihazlardaki gerçek zamanlı uygulamalar için kritik öneme sahiptir. Ultralytics YOLO modellerinizi RKNN'ye dönüştürerek, RK3588, RK3566 ve diğerleri gibi Rockchip SoC'ler tarafından desteklenen cihazlarda optimum performans elde edebilirsiniz.

RKNN modellerini NVIDIA veya Google gibi diğer üreticilerin cihazlarına dağıtabilir miyim?

RKNN modelleri Rockchip platformları ve entegre NPU'ları için özel olarak optimize edilmiştir. Teknik olarak bir RKNN modelini yazılım emülasyonu kullanarak diğer platformlarda çalıştırabilirsiniz, ancak Rockchip cihazlarının sağladığı donanım hızlandırmasından yararlanamazsınız. Diğer platformlarda optimum performans için Ultralytics YOLO modellerinizi, NVIDIA GPU'ları için TensorRT veya Google's Edge TPU için TensorFlow Lite gibi bu platformlar için özel olarak tasarlanmış formatlara aktarmanız önerilir. Ultralytics , çeşitli donanım hızlandırıcılarla uyumluluk sağlamak için çok çeşitli formatlara aktarmayı destekler.

RKNN model dağıtımı için hangi Rockchip platformları destekleniyor?

Ultralytics YOLO RKNN formatına aktarım, popüler RK3588, RK3576, RK3566, RK3568, RK3562, RV1103, RV1106, RV1103B, RV1106B ve RK2118 dahil olmak üzere çok çeşitli Rockchip platformlarını destekler. Bu platformlar genellikle Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi üreticilerin cihazlarında bulunur. Bu geniş destek, optimize edilmiş RKNN modellerinizi tek kartlı bilgisayarlardan endüstriyel sistemlere kadar çeşitli Rockchip destekli cihazlara dağıtabilmenizi ve bilgisayarla görme uygulamalarınızda gelişmiş performans için yapay zeka hızlandırma yeteneklerinden tam olarak yararlanabilmenizi sağlar.

RKNN modellerinin performansı Rockchip cihazlarındaki diğer formatlara kıyasla nasıldır?

RKNN modelleri, Rockchip'in NPU'ları için optimizasyonları nedeniyle Rockchip cihazlarında genellikle ONNX veya TensorFlow Lite gibi diğer formatlardan daha iyi performans gösterir. Örneğin, Radxa Rock 5B (RK3588) üzerinde yapılan kıyaslamalar, RKNN formatındaki YOLO11n 'in 99,5 ms/görüntü çıkarım süresine ulaştığını ve diğer formatlardan önemli ölçüde daha hızlı olduğunu göstermektedir. Bu performans avantajı, kıyaslamalar bölümünde gösterildiği gibi çeşitli YOLO11 model boyutlarında tutarlıdır. Özel NPU donanımından yararlanan RKNN modelleri, gecikmeyi en aza indirip verimi en üst düzeye çıkararak Rockchip tabanlı uç cihazlardaki gerçek zamanlı uygulamalar için idealdir.

📅 20 gün önce oluşturuldu ✏️ 4 gün önce güncellendi

Yorumlar