Link to this sectionRockchip RKNN-Export für Ultralytics YOLO26-Modelle#

Beim Deployment von Computer-Vision-Modellen auf eingebetteten Geräten, insbesondere solchen mit Rockchip-Prozessoren, ist ein kompatibles Modellformat unerlässlich. Der Export von Ultralytics YOLO26-Modellen in das RKNN-Format stellt eine optimierte Leistung und Kompatibilität mit der Hardware von Rockchip sicher. Dieser Leitfaden führt dich durch die Konvertierung deiner YOLO26-Modelle in das RKNN-Format, einschließlich Fließkomma- und INT8-quantisierten Exporten, um ein effizientes Deployment auf Rockchip-Plattformen zu ermöglichen.

Link to this sectionWas ist Rockchip?#

Rockchip ist bekannt für die Bereitstellung vielseitiger und energieeffizienter Lösungen und entwickelt fortschrittliche System-on-Chips (SoCs), die eine breite Palette an Unterhaltungselektronik, industriellen Anwendungen und KI-Technologien antreiben. Mit einer ARM-basierten Architektur, integrierten Neural Processing Units (NPUs) und hochauflösender Multimedia-Unterstützung ermöglichen Rockchip-SoCs eine Spitzenleistung für Geräte wie Tablets, Smart-TVs, IoT-Systeme und Edge-KI-Anwendungen. Unternehmen wie Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas und Banana Pi bieten eine Vielzahl von Produkten auf Basis von Rockchip-SoCs an, was deren Reichweite und Einfluss in verschiedenen Märkten weiter ausbaut.

Link to this sectionRKNN Toolkit#

Das RKNN Toolkit ist eine Sammlung von Werkzeugen und Bibliotheken von Rockchip, um das Deployment von Deep-Learning-Modellen auf deren Hardwareplattformen zu erleichtern. RKNN (Rockchip Neural Network) ist das proprietäre Format, das von diesen Werkzeugen verwendet wird. RKNN-Modelle sind darauf ausgelegt, die Hardwarebeschleunigung der Rockchip-NPU (Neural Processing Unit) voll auszunutzen und so eine hohe Leistung bei KI-Aufgaben auf Geräten wie RK3588, RK3566, RV1103, RV1106 und anderen Systemen mit Rockchip-Antrieb zu gewährleisten.

Link to this sectionHauptmerkmale von RKNN-Modellen#

RKNN-Modelle bieten mehrere Vorteile für das Deployment auf Rockchip-Plattformen:

• Optimiert für NPU: RKNN-Modelle sind speziell darauf optimiert, auf den NPUs von Rockchip zu laufen, was maximale Leistung und Effizienz sicherstellt.
• Geringe Latenz: Das RKNN-Format minimiert die Inferenzlatenz, was für Echtzeitanwendungen auf Edge-Geräten entscheidend ist.
• Plattformspezifische Anpassung: RKNN-Modelle können auf bestimmte Rockchip-Plattformen zugeschnitten werden, was eine bessere Nutzung der Hardware-Ressourcen ermöglicht.
• Energieeffizienz: Durch die Nutzung dedizierter NPU-Hardware verbrauchen RKNN-Modelle weniger Energie als CPU- oder GPU-basierte Verarbeitung, was die Akkulaufzeit bei tragbaren Geräten verlängert.

Link to this sectionOS auf Rockchip-Hardware flashen#

Der erste Schritt, nachdem du ein Rockchip-basiertes Gerät erhalten hast, ist das Flashen eines Betriebssystems, damit die Hardware in eine funktionierende Umgebung booten kann. In diesem Leitfaden verweisen wir auf die Erste-Schritte-Anleitungen der beiden von uns getesteten Geräte, Radxa Rock 5B und Radxa Zero 3W.

• Radxa Rock 5B Erste-Schritte-Anleitung
• Radxa Zero 3W Erste-Schritte-Anleitung

Link to this sectionExport nach RKNN: Dein YOLO26-Modell konvertieren#

Exportiere ein Ultralytics YOLO26-Modell in das RKNN-Format und führe eine Inferenz mit dem exportierten Modell durch.

Link to this sectionInstallation#

Um die erforderlichen Pakete zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Für detaillierte Anweisungen und bewährte Verfahren zum Installationsprozess, siehe unsere Ultralytics Installationsanleitung. Falls du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, konsultiere unsere Anleitung für häufige Probleme für Lösungen und Tipps.

Link to this sectionVerwendung#

Das RKNN-Format unterstützt die Modi Export, Predict und Validate. Inferenz und Validierung laufen auf der Rockchip-NPU-Hardware. Exportiere dein Modell und lade dann das exportierte Modell, um Inferenz auszuführen oder die Genauigkeit zu validieren. Standardmäßig verwendet der RKNN-Export den bestehenden Fließkomma-Build-Pfad mit half=True für FP16-fähige Rockchip-Ziele. Verwende int8=True, um ein INT8-quantisiertes RKNN-Modell mit Kalibrierungsdaten zu erstellen. Der RKNN-Export bietet keinen separaten FP32-Modus; das Belassen von int8=False fordert kein FP32 an.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to RKNN format
model.export(format="rknn", name="rk3588")  # creates '/yolo26n_rknn_model'

# Export an INT8-quantized RKNN model with calibration data
model.export(format="rknn", name="rk3588", int8=True, data="coco8.yaml")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

Für weitere Details zum Exportprozess besuche die Ultralytics Dokumentationsseite zum Export.

Link to this sectionExportierte YOLO26 RKNN-Modelle bereitstellen#

Sobald du deine Ultralytics YOLO26-Modelle erfolgreich in das RKNN-Format exportiert hast, ist der nächste Schritt das Deployment dieser Modelle auf Rockchip-basierten Geräten.

Link to this sectionInstallation#

Um die erforderlichen Pakete zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Sobald installiert, führe Inferenz und Validierung auf deinem Rockchip-Gerät genau so aus, wie im Abschnitt Verwendung oben gezeigt — das exportierte _rknn_model wird direkt mit YOLO(...) geladen.

Link to this sectionAnwendungen in der Praxis#

Rockchip-betriebene Geräte mit YOLO26 RKNN-Modellen können in verschiedenen Anwendungen eingesetzt werden:

• Intelligente Überwachung: Implementiere effiziente Objekterkennungssysteme für die Sicherheitsüberwachung bei geringem Stromverbrauch.
• Industrieautomation: Führe Qualitätskontrolle und Fehlererkennung direkt auf eingebetteten Geräten durch.
• Einzelhandelsanalytik: Verfolge Kundenverhalten und Bestandsverwaltung in Echtzeit ohne Cloud-Abhängigkeit.
• Intelligente Landwirtschaft: Überwache die Pflanzengesundheit und erkenne Schädlinge mittels Computer Vision in der Landwirtschaft.
• Autonome Robotik: Ermögliche vision-basierte Navigation und Hinderniserkennung auf ressourcenbeschränkten Plattformen.

Link to this sectionBenchmarks#

Die folgenden YOLO26-Benchmarks wurden vom Ultralytics-Team auf einem Radxa Rock 5B basierend auf Rockchip RK3588 mit dem rknn-Modellformat durchgeführt, um Geschwindigkeit und Genauigkeit zu messen.

Link to this sectionZusammenfassung#

In diesem Leitfaden hast du gelernt, wie du Ultralytics YOLO26-Modelle in das RKNN-Format exportierst, um deren Bereitstellung auf Rockchip-Plattformen zu verbessern. Du wurdest außerdem in das RKNN Toolkit und die spezifischen Vorteile der Verwendung von RKNN-Modellen für Edge-AI-Anwendungen eingeführt.

Die Kombination aus Ultralytics YOLO26 und der NPU-Technologie von Rockchip bietet eine effiziente Lösung für die Ausführung fortschrittlicher Computer-Vision-Aufgaben auf eingebetteten Geräten. Dieser Ansatz ermöglicht Objekterkennung in Echtzeit und andere Vision-KI-Anwendungen bei minimalem Stromverbrauch und hoher Leistung.

Weitere Details zur Nutzung findest du in der offiziellen RKNN-Dokumentation.

Wenn du mehr über andere Integrationen von Ultralytics YOLO26 erfahren möchtest, besuche unsere Integrationsübersichtsseite. Dort findest du viele nützliche Ressourcen und Einblicke.

Link to this sectionFAQ#

Link to this sectionWie exportiere ich mein Ultralytics YOLO-Modell in das RKNN-Format?#

Du kannst dein Ultralytics YOLO-Modell ganz einfach mit der export()-Methode im Ultralytics Python-Paket oder über das Command-Line Interface (CLI) in das RKNN-Format exportieren. Stelle sicher, dass du für den Exportprozess einen x86-basierten Linux-PC verwendest, da ARM64-Geräte wie Rockchip für diesen Vorgang nicht unterstützt werden. Du kannst die Ziel-Rockchip-Plattform über das name-Argument angeben, zum Beispiel rk3588, rk3566 oder andere. Dieser Prozess generiert ein optimiertes RKNN-Modell, das bereit für die Bereitstellung auf deinem Rockchip-Gerät ist und dessen Neural Processing Unit (NPU) für beschleunigte Inferenz nutzt.

from ultralytics import YOLO

# Load your YOLO model
model = YOLO("yolo26n.pt")

# Export to RKNN format for a specific Rockchip platform
model.export(format="rknn", name="rk3588")

Link to this sectionWas sind die Vorteile der Verwendung von RKNN-Modellen auf Rockchip-Geräten?#

RKNN-Modelle sind speziell dafür entwickelt, die Hardware-Beschleunigungsfunktionen der Neural Processing Units (NPUs) von Rockchip zu nutzen. Diese Optimierung führt zu deutlich schnelleren Inferenzgeschwindigkeiten und reduzierter Latenz im Vergleich zur Ausführung generischer Modellformate wie ONNX oder TensorFlow Lite auf derselben Hardware. Die Verwendung von RKNN-Modellen ermöglicht eine effizientere Nutzung der Geräteressourcen, was zu einem geringeren Stromverbrauch und einer besseren Gesamtleistung führt, was besonders für Echtzeitanwendungen auf Edge-Geräten kritisch ist. Durch die Konvertierung deiner Ultralytics YOLO-Modelle in RKNN kannst du auf Geräten, die von Rockchip SoCs wie dem RK3588, RK3566 und anderen angetrieben werden, eine optimale Leistung erzielen.

Link to this sectionKann ich RKNN-Modelle auf Geräten anderer Hersteller wie NVIDIA oder Google bereitstellen?#

RKNN-Modelle sind speziell für Rockchip-Plattformen und deren integrierte NPUs optimiert. Obwohl du ein RKNN-Modell technisch über Software-Emulation auf anderen Plattformen ausführen kannst, profitierst du nicht von der Hardware-Beschleunigung, die Rockchip-Geräte bieten. Für eine optimale Leistung auf anderen Plattformen wird empfohlen, deine Ultralytics YOLO-Modelle in Formate zu exportieren, die speziell für diese Plattformen entwickelt wurden, wie z. B. TensorRT für NVIDIA-GPUs oder TensorFlow Lite für Googles Edge TPU. Ultralytics unterstützt den Export in eine breite Palette von Formaten, um die Kompatibilität mit verschiedenen Hardware-Beschleunigern zu gewährleisten.

Link to this sectionWelche Rockchip-Plattformen werden für die Bereitstellung von RKNN-Modellen unterstützt?#

Der Ultralytics YOLO-Export in das RKNN-Format unterstützt Rockchip-Plattformen mit RKNN-Builds für Fließkommazahlen, darunter RK3588, RK3576, RK3566, RK3568, RK3562, RK2118 und RV1126B. Es unterstützt auch den INT8-quantisierten RKNN-Export mit int8=True, was für reine INT8-Ziele wie RV1103, RV1106, RV1103B und RV1106B erforderlich ist. Diese Plattformen sind häufig in Geräten von Herstellern wie Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas und Banana Pi zu finden, sodass du deine optimierten RKNN-Modelle auf einer Reihe von Rockchip-basierten Geräten bereitstellen kannst, von Einplatinencomputern bis hin zu industriellen Systemen.

Link to this sectionWie schneidet die Leistung von RKNN-Modellen im Vergleich zu anderen Formaten auf Rockchip-Geräten ab?#

RKNN-Modelle übertreffen auf Rockchip-Geräten im Allgemeinen andere Formate wie ONNX oder TensorFlow Lite aufgrund ihrer Optimierung für die NPUs von Rockchip. Zum Beispiel zeigen Benchmarks auf dem Radxa Rock 5B (RK3588), dass YOLO26n im RKNN-Format eine Inferenzzeit von 65,7 ms/Bild erreicht, was deutlich schneller ist als bei anderen Formaten. Dieser Leistungsvorteil ist über verschiedene YOLO26-Modellgrößen hinweg konsistent, wie im Benchmark-Abschnitt demonstriert. Durch die Nutzung der dedizierten NPU-Hardware minimieren RKNN-Modelle die Latenz und maximieren den Durchsatz, was sie ideal für Echtzeitanwendungen auf Rockchip-basierten Edge-Geräten macht.