Rockchip RKNN Export for Ultralytics YOLO11 Modeller
Bilgisayarla görme modellerini gömülü cihazlara, özellikle de Rockchip işlemcilerle çalışanlara yerleştirirken uyumlu bir model formatına sahip olmak çok önemlidir. Dışa aktarma Ultralytics YOLO11 modelleri RKNN formatına dönüştürmek, Rockchip'in donanımıyla optimize edilmiş performans ve uyumluluk sağlar. Bu kılavuz, YOLO11 modellerinizi RKNN formatına dönüştürerek Rockchip platformlarında verimli bir dağıtım sağlamanıza yardımcı olacaktır.
Not
Bu kılavuz, Rockchip RK3588 tabanlı Radxa Rock 5B ve Rockchip RK3566 tabanlı Radxa Zero 3W ile test edilmiştir. RK3576, RK3568, RK3562, RV1103, RV1106, RV1103B, RV1106B ve RK2118 gibi rknn-toolkit2 'yi destekleyen diğer Rockchip tabanlı cihazlarda da çalışması beklenmektedir.
Rockchip nedir?
Çok yönlü ve güç tasarruflu çözümler sunmasıyla tanınan Rockchip, çok çeşitli tüketici elektroniği, endüstriyel uygulamalar ve yapay zeka teknolojilerine güç veren gelişmiş System-on-Chips (SoC'ler) tasarlar. ARM tabanlı mimari, yerleşik Sinir İşleme Birimleri (NPU'lar) ve yüksek çözünürlüklü multimedya desteği ile Rockchip SoC'ler tabletler, akıllı TV'ler, IoT sistemleri ve uç yapay zeka uygulamaları gibi cihazlar için üstün performans sağlar. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi şirketler Rockchip SoC'lere dayalı çeşitli ürünler sunarak farklı pazarlardaki erişimlerini ve etkilerini daha da genişletiyor.
RKNN Araç Seti
RKNN Toolkit, Rockchip tarafından donanım platformlarında derin öğrenme modellerinin dağıtımını kolaylaştırmak için sağlanan bir dizi araç ve kütüphanedir. RKNN veya Rockchip Neural Network, bu araçlar tarafından kullanılan tescilli formattır. RKNN modelleri, Rockchip'in NPU'su (Nöral İşlem Birimi) tarafından sağlanan donanım hızlandırmasından tam olarak yararlanmak üzere tasarlanmıştır ve RK3588, RK3566, RV1103, RV1106 ve diğer Rockchip destekli sistemler gibi cihazlarda yapay zeka görevlerinde yüksek performans sağlar.
RKNN Modellerinin Temel Özellikleri
RKNN modelleri, Rockchip platformlarında dağıtım için çeşitli avantajlar sunar:
- NPU için optimize edilmiştir: RKNN modelleri, Rockchip'in NPU'larında çalışacak şekilde özel olarak optimize edilmiştir ve maksimum performans ve verimlilik sağlar.
- Düşük Gecikme Süresi: RKNN formatı, uç cihazlardaki gerçek zamanlı uygulamalar için kritik olan çıkarım gecikmesini en aza indirir.
- Platforma Özel Özelleştirme: RKNN modelleri belirli Rockchip platformlarına göre uyarlanabilir ve donanım kaynaklarının daha iyi kullanılmasını sağlar.
Rockchip donanımına Flash OS
Rockchip tabanlı bir cihazı elinize aldıktan sonraki ilk adım, donanımın çalışma ortamına geçebilmesi için bir işletim sistemi flashlamaktır. Bu kılavuzda, test ettiğimiz iki cihaz olan Radxa Rock 5B ve Radxa Zero 3W'nin başlangıç kılavuzlarına işaret edeceğiz.
RKNN'ye Aktarma: YOLO11 Modelinizi Dönüştürme
Bir Ultralytics YOLO11 modelini RKNN formatına dışa aktarın ve dışa aktarılan modelle çıkarım çalıştırın.
Not
Modeli RKNN'ye aktarmak için X86 tabanlı bir Linux PC kullandığınızdan emin olun çünkü Rockchip tabanlı cihazlarda (ARM64) dışa aktarma desteklenmez.
Kurulum
Gerekli paketleri yüklemek için çalıştırın:
Kurulum süreciyle ilgili ayrıntılı talimatlar ve en iyi uygulamalar için Ultralytics Kurulum kılavuzumuza göz atın. YOLO11 için gerekli paketleri yüklerken herhangi bir zorlukla karşılaşırsanız, çözümler ve ipuçları için Ortak Sorunlar kılavuz umuza başvurun.
Kullanım
Not
Dışa aktarma şu anda yalnızca algılama modelleri için desteklenmektedir. Gelecekte daha fazla model desteği gelecektir.
Kullanım
Dışa Aktarma Argümanları
Tartışma | Tip | Varsayılan | Açıklama |
---|---|---|---|
format |
str |
rknn |
Dışa aktarılan model için hedef format, çeşitli dağıtım ortamlarıyla uyumluluğu tanımlar. |
imgsz |
int veya tuple |
640 |
Model girişi için istenen görüntü boyutu. Kare görüntüler için bir tamsayı veya bir tuple olabilir (height, width) belirli boyutlar için. |
batch |
int |
1 |
Dışa aktarılan model toplu çıkarım boyutunu veya dışa aktarılan modelin eşzamanlı olarak işleyeceği maksimum görüntü sayısını belirtir predict Mod. |
name |
str |
rk3588 |
Rockchip modelini belirtir (rk3588, rk3576, rk3566, rk3568, rk3562, rv1103, rv1106, rv1103b, rv1106b, rk2118) |
Dışa aktarma işlemi hakkında daha fazla bilgi için, dışa aktarma ile ilgiliUltralytics dokümantasyon sayfasını ziyaret edin.
Dışa Aktarılan YOLO11 RKNN Modellerini Dağıtma
Ultralytics YOLO11 modellerinizi başarılı bir şekilde RKNN formatına aktardıktan sonra, bir sonraki adım bu modelleri Rockchip tabanlı cihazlara dağıtmaktır.
Kurulum
Gerekli paketleri yüklemek için çalıştırın:
Kullanım
Kullanım
Not
RKNN çalışma zamanı sürümünün RKNN Toolkit sürümüyle eşleşmediğini ve çıkarımın başarısız olduğunu belirten bir günlük mesajıyla karşılaşırsanız, lütfen /usr/lib/librknnrt.so
resmi librknnrt.so dosyası.
Ölçütler
YOLO11 Aşağıdaki kıyaslamalar Ultralytics ekibi tarafından Rockchip RK3588 tabanlı Radxa Rock 5B üzerinde rknn
model formatı ölçüm hızı ve doğruluğu.
Model | Biçim | Durum | Boyut (MB) | mAP50-95(B) | Çıkarım süresi (ms/im) |
---|---|---|---|---|---|
YOLO11n | rknn |
✅ | 7.4 | 0.61 | 99.5 |
YOLO11s | rknn |
✅ | 20.7 | 0.741 | 122.3 |
YOLO11m | rknn |
✅ | 41.9 | 0.764 | 298.0 |
YOLO11l | rknn |
✅ | 53.3 | 0.72 | 319.6 |
YOLO11x | rknn |
✅ | 114.6 | 0.828 | 632.1 |
Not
Yukarıdaki kıyaslama için doğrulama coco8 veri kümesi kullanılarak yapılmıştır
Özet
Bu kılavuzda, Rockchip platformlarında dağıtımlarını geliştirmek için Ultralytics YOLO11 modellerini RKNN formatına nasıl aktaracağınızı öğrendiniz. Ayrıca RKNN Toolkit ve uç yapay zeka uygulamaları için RKNN modellerini kullanmanın özel avantajları ile tanıştınız.
Kullanım hakkında daha fazla bilgi için RKNN resmi belgelerini ziyaret edin.
Ayrıca, diğer Ultralytics YOLO11 entegrasyonları hakkında daha fazla bilgi edinmek isterseniz, entegrasyon kılavuzu sayfamızı ziyaret edin. Orada çok sayıda faydalı kaynak ve bilgi bulacaksınız.
SSS
Ultralytics YOLO modelimi RKNN formatına nasıl aktarabilirim?
Ultralytics YOLO modelinizi RKNN formatına kolayca aktarabilirsiniz. export()
yöntemini Ultralytics Python paketinde veya komut satırı arayüzü (CLI) aracılığıyla kullanabilirsiniz. Rockchip gibi ARM64 cihazları bu işlem için desteklenmediğinden, dışa aktarma işlemi için x86 tabanlı bir Linux PC kullandığınızdan emin olun. Hedef Rockchip platformunu aşağıdakileri kullanarak belirtebilirsiniz name
argümanı, örneğin rk3588
, rk3566
veya diğerleri. Bu süreç, hızlandırılmış çıkarım için Sinirsel İşlem Biriminden (NPU) yararlanarak Rockchip cihazınıza yerleştirilmeye hazır optimize edilmiş bir RKNN modeli oluşturur.
Örnek
Rockchip cihazlarında RKNN modellerini kullanmanın faydaları nelerdir?
RKNN modelleri, Rockchip'in Sinir İşleme Birimlerinin (NPU'lar) donanım hızlandırma özelliklerinden yararlanmak için özel olarak tasarlanmıştır. Bu optimizasyon, aynı donanım üzerinde ONNX veya TensorFlow Lite gibi genel model formatlarını çalıştırmaya kıyasla önemli ölçüde daha yüksek çıkarım hızları ve daha düşük gecikme süresi sağlar. RKNN modellerinin kullanılması, cihaz kaynaklarının daha verimli kullanılmasını sağlayarak daha düşük güç tüketimi ve daha iyi genel performans sağlar; bu da özellikle uç cihazlardaki gerçek zamanlı uygulamalar için kritik öneme sahiptir. Ultralytics YOLO modellerinizi RKNN'ye dönüştürerek, RK3588, RK3566 ve diğerleri gibi Rockchip SoC'ler tarafından desteklenen cihazlarda optimum performans elde edebilirsiniz.
RKNN modellerini NVIDIA veya Google gibi diğer üreticilerin cihazlarına dağıtabilir miyim?
RKNN modelleri Rockchip platformları ve entegre NPU'ları için özel olarak optimize edilmiştir. Teknik olarak bir RKNN modelini yazılım emülasyonu kullanarak diğer platformlarda çalıştırabilirsiniz, ancak Rockchip cihazlarının sağladığı donanım hızlandırmasından yararlanamazsınız. Diğer platformlarda optimum performans için Ultralytics YOLO modellerinizi, NVIDIA GPU'ları için TensorRT veya Google's Edge TPU için TensorFlow Lite gibi bu platformlar için özel olarak tasarlanmış formatlara aktarmanız önerilir. Ultralytics , çeşitli donanım hızlandırıcılarla uyumluluk sağlamak için çok çeşitli formatlara aktarmayı destekler.
RKNN model dağıtımı için hangi Rockchip platformları destekleniyor?
Ultralytics YOLO RKNN formatına aktarım, popüler RK3588, RK3576, RK3566, RK3568, RK3562, RV1103, RV1106, RV1103B, RV1106B ve RK2118 dahil olmak üzere çok çeşitli Rockchip platformlarını destekler. Bu platformlar genellikle Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi üreticilerin cihazlarında bulunur. Bu geniş destek, optimize edilmiş RKNN modellerinizi tek kartlı bilgisayarlardan endüstriyel sistemlere kadar çeşitli Rockchip destekli cihazlara dağıtabilmenizi ve bilgisayarla görme uygulamalarınızda gelişmiş performans için yapay zeka hızlandırma yeteneklerinden tam olarak yararlanabilmenizi sağlar.
RKNN modellerinin performansı Rockchip cihazlarındaki diğer formatlara kıyasla nasıldır?
RKNN modelleri, Rockchip'in NPU'ları için optimizasyonları nedeniyle Rockchip cihazlarında genellikle ONNX veya TensorFlow Lite gibi diğer formatlardan daha iyi performans gösterir. Örneğin, Radxa Rock 5B (RK3588) üzerinde yapılan kıyaslamalar, RKNN formatındaki YOLO11n 'in 99,5 ms/görüntü çıkarım süresine ulaştığını ve diğer formatlardan önemli ölçüde daha hızlı olduğunu göstermektedir. Bu performans avantajı, kıyaslamalar bölümünde gösterildiği gibi çeşitli YOLO11 model boyutlarında tutarlıdır. Özel NPU donanımından yararlanan RKNN modelleri, gecikmeyi en aza indirip verimi en üst düzeye çıkararak Rockchip tabanlı uç cihazlardaki gerçek zamanlı uygulamalar için idealdir.