Link to this sectionRockchip RKNN-Export für Ultralytics YOLO26-Modelle#

Wenn du Computer-Vision-Modelle auf eingebetteten Geräten einsetzt, insbesondere auf solchen mit Rockchip-Prozessoren, ist ein kompatibles Modellformat unerlässlich. Das Exportieren von Ultralytics YOLO26-Modellen in das RKNN-Format stellt eine optimierte Leistung und Kompatibilität mit der Hardware von Rockchip sicher. Diese Anleitung führt dich durch die Konvertierung deiner YOLO26-Modelle in das RKNN-Format, einschließlich Fließkomma- und INT8-quantisierten Exporten, um eine effiziente Bereitstellung auf Rockchip-Plattformen zu ermöglichen.

Link to this sectionWas ist Rockchip?#

Rockchip ist bekannt für seine vielseitigen und energieeffizienten Lösungen und entwickelt fortschrittliche System-on-Chips (SoCs), die eine breite Palette an Unterhaltungselektronik, industriellen Anwendungen und KI-Technologien antreiben. Mit ARM-basierter Architektur, integrierten Neural Processing Units (NPUs) und hochauflösender Multimedia-Unterstützung ermöglichen Rockchip-SoCs modernste Leistung für Geräte wie Tablets, Smart-TVs, IoT-Systeme und Edge-KI-Anwendungen. Unternehmen wie Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas und Banana Pi bieten eine Vielzahl von Produkten auf Basis von Rockchip-SoCs an, was deren Reichweite und Einfluss auf verschiedene Märkte weiter vergrößert.

Link to this sectionRKNN Toolkit#

Das RKNN Toolkit ist eine Zusammenstellung von Tools und Bibliotheken, die von Rockchip bereitgestellt werden, um die Bereitstellung von Deep-Learning-Modellen auf deren Hardware-Plattformen zu erleichtern. RKNN, oder Rockchip Neural Network, ist das proprietäre Format, das von diesen Tools verwendet wird. RKNN-Modelle sind darauf ausgelegt, die Hardwarebeschleunigung der NPU (Neural Processing Unit) von Rockchip voll auszunutzen und so eine hohe Leistung bei KI-Aufgaben auf Geräten wie RK3588, RK3566, RV1103, RV1106 und anderen Rockchip-basierten Systemen zu gewährleisten.

Link to this sectionHauptmerkmale von RKNN-Modellen#

RKNN-Modelle bieten mehrere Vorteile für die Bereitstellung auf Rockchip-Plattformen:

• Optimiert für NPU: RKNN-Modelle sind speziell für die Ausführung auf Rockchip-NPUs optimiert, was maximale Leistung und Effizienz garantiert.
• Geringe Latenz: Das RKNN-Format minimiert die Inferenzlatenz, was für Echtzeitanwendungen auf Edge-Geräten entscheidend ist.
• Plattformspezifische Anpassung: RKNN-Modelle können auf spezifische Rockchip-Plattformen zugeschnitten werden, was eine bessere Ausnutzung der Hardwareressourcen ermöglicht.
• Energieeffizienz: Durch die Nutzung dedizierter NPU-Hardware verbrauchen RKNN-Modelle weniger Strom als CPU- oder GPU-basierte Prozesse, was die Akkulaufzeit tragbarer Geräte verlängert.

Link to this sectionBetriebssystem auf Rockchip-Hardware flashen#

Der erste Schritt nach dem Erhalt deines Rockchip-basierten Geräts ist das Flashen eines Betriebssystems, damit die Hardware in eine funktionierende Umgebung booten kann. In dieser Anleitung verweisen wir auf die Erste-Schritte-Anleitungen der beiden von uns getesteten Geräte: Radxa Rock 5B und Radxa Zero 3W.

• Radxa Rock 5B Erste-Schritte-Anleitung
• Radxa Zero 3W Erste-Schritte-Anleitung

Link to this sectionExport in RKNN: Dein YOLO26-Modell konvertieren#

Exportiere ein Ultralytics YOLO26-Modell in das RKNN-Format und führe die Inferenz mit dem exportierten Modell durch.

Link to this sectionInstallation#

Um die erforderlichen Pakete zu installieren, führe aus:

# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und Best Practices für den Installationsprozess findest du in unserem Ultralytics-Installationsleitfaden. Wenn du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, schau in unserem Leitfaden zu häufigen Problemen nach Lösungen und Tipps.

Link to this sectionVerwendung#

Das RKNN-Format unterstützt die Modi Export, Predict und Validate. Inferenz und Validierung laufen auf Rockchip NPU-Hardware. Exportiere dein Modell und lade es anschließend, um Inferenz auszuführen oder dessen Genauigkeit zu validieren. Standardmäßig verwendet der RKNN-Export den Floating-Point-Build-Pfad (quantize=16) für FP16-fähige Rockchip-Ziele. Verwende quantize=8, um ein INT8-quantisiertes RKNN-Modell mit Kalibrierungsdaten zu erstellen. Der RKNN-Export bietet keinen separaten FP32-Modus; der FP16-Standard erfordert kein FP32.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to RKNN format
model.export(format="rknn", name="rk3588")  # creates '/yolo26n_rknn_model'

# Export an INT8-quantized RKNN model with calibration data
model.export(format="rknn", name="rk3588", quantize=8, data="coco8.yaml")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Exportieren.

Link to this sectionExportierte YOLO26 RKNN-Modelle bereitstellen#

Sobald du deine Ultralytics YOLO26-Modelle erfolgreich in das RKNN-Format exportiert hast, ist der nächste Schritt die Bereitstellung dieser Modelle auf Rockchip-basierten Geräten.

Link to this sectionInstallation#

Um die erforderlichen Pakete zu installieren, führe aus:

# Install the required package for YOLO26
pip install ultralytics

Nach der Installation führe Inferenz und Validierung auf deinem Rockchip-Gerät genau so aus, wie im Abschnitt Usage oben gezeigt – das exportierte _rknn_model lässt sich direkt mit YOLO(...) laden.

Link to this sectionAnwendungen in der Praxis#

Rockchip-betriebene Geräte mit YOLO26 RKNN-Modellen können in verschiedenen Anwendungen eingesetzt werden:

• Intelligente Überwachung: Setze effiziente Objekterkennungssysteme für die Sicherheitsüberwachung bei geringem Stromverbrauch ein.
• Industrielle Automatisierung: Implementiere Qualitätskontrolle und Fehlererkennung direkt auf eingebetteten Geräten.
• Retail Analytics: Verfolge Kundenverhalten und Bestandsmanagement in Echtzeit ohne Cloud-Abhängigkeit.
• Intelligente Landwirtschaft: Überwache die Pflanzengesundheit und erkenne Schädlinge mithilfe von Computer Vision in der Landwirtschaft.
• Autonome Robotik: Ermögliche bildbasierte Navigation und Hinderniserkennung auf ressourcenbeschränkten Plattformen.

Link to this sectionBenchmarks#

Die nachstehenden YOLO26-Benchmarks wurden vom Ultralytics-Team auf dem Radxa Rock 5B auf Basis des Rockchip RK3588 mit dem rknn-Modellformat durchgeführt, um Geschwindigkeit und Genauigkeit zu messen.

Link to this sectionZusammenfassung#

In dieser Anleitung hast du gelernt, wie man Ultralytics YOLO26-Modelle in das RKNN-Format exportiert, um deren Bereitstellung auf Rockchip-Plattformen zu verbessern. Du wurdest außerdem mit dem RKNN Toolkit und den spezifischen Vorteilen der Verwendung von RKNN-Modellen für Edge-KI-Anwendungen vertraut gemacht.

Die Kombination aus Ultralytics YOLO26 und der NPU-Technologie von Rockchip bietet eine effiziente Lösung für die Ausführung fortgeschrittener Computer-Vision-Aufgaben auf eingebetteten Geräten. Dieser Ansatz ermöglicht Echtzeit-Objekterkennung und andere Vision-KI-Anwendungen mit minimalem Stromverbrauch und hoher Leistung.

Weitere Details zur Nutzung findest du in der offiziellen RKNN-Dokumentation.

Wenn du außerdem mehr über andere Ultralytics YOLO26-Integrationen erfahren möchtest, besuche unsere Integrations-Guide-Seite. Dort findest du viele nützliche Ressourcen und Einblicke.

Link to this sectionFAQ#

Link to this sectionWie exportiere ich mein Ultralytics YOLO-Modell in das RKNN-Format?#

Du kannst dein Ultralytics YOLO-Modell einfach über die export()-Methode im Ultralytics Python-Paket oder über das Command-Line-Interface (CLI) in das RKNN-Format exportieren. Stelle sicher, dass du einen x86-basierten Linux-PC für den Exportprozess verwendest, da ARM64-Geräte wie Rockchip für diesen Vorgang nicht unterstützt werden. Du kannst die Rockchip-Zielplattform über das name-Argument angeben, wie z. B. rk3588, rk3566 oder andere. Dieser Prozess generiert ein optimiertes RKNN-Modell, das bereit für die Bereitstellung auf deinem Rockchip-Gerät ist und dessen Neural Processing Unit (NPU) für beschleunigte Inferenz nutzt.

from ultralytics import YOLO

# Load your YOLO model
model = YOLO("yolo26n.pt")

# Export to RKNN format for a specific Rockchip platform
model.export(format="rknn", name="rk3588")

Link to this sectionWas sind die Vorteile der Verwendung von RKNN-Modellen auf Rockchip-Geräten?#

RKNN-Modelle sind speziell dafür konzipiert, die Hardwarebeschleunigungsfunktionen der Neural Processing Units (NPUs) von Rockchip zu nutzen. Diese Optimierung führt zu deutlich schnelleren Inferenzgeschwindigkeiten und einer geringeren Latenz im Vergleich zur Ausführung allgemeiner Modellformate wie ONNX oder LiteRT auf derselben Hardware. Die Verwendung von RKNN-Modellen ermöglicht eine effizientere Nutzung der Geräteressourcen, was zu einem niedrigeren Stromverbrauch und einer insgesamt besseren Leistung führt – besonders wichtig für Echtzeitanwendungen auf Edge-Geräten. Durch die Konvertierung deiner Ultralytics YOLO-Modelle in RKNN erreichst du eine optimale Performance auf Geräten, die von Rockchip SoCs wie dem RK3588, RK3566 und anderen angetrieben werden.

Link to this sectionKann ich RKNN-Modelle auf Geräten anderer Hersteller wie NVIDIA oder Google bereitstellen?#

RKNN-Modelle sind speziell für Rockchip-Plattformen und deren integrierte NPUs optimiert. Obwohl du ein RKNN-Modell technisch gesehen mittels Software-Emulation auf anderen Plattformen ausführen kannst, profitierst du nicht von der Hardwarebeschleunigung, die Rockchip-Geräte bieten. Für eine optimale Leistung auf anderen Plattformen wird empfohlen, deine Ultralytics YOLO-Modelle in Formate zu exportieren, die speziell für diese Plattformen entwickelt wurden, wie beispielsweise TensorRT für NVIDIA GPUs oder Edge TPU für die Coral-Geräte von Google. Ultralytics unterstützt den Export in eine Vielzahl von Formaten und gewährleistet so die Kompatibilität mit verschiedenen Hardware-Beschleunigern.

Link to this sectionWelche Rockchip-Plattformen werden für die Bereitstellung von RKNN-Modellen unterstützt?#

Der Ultralytics YOLO-Export in das RKNN-Format unterstützt Rockchip-Plattformen mit Floating-Point-RKNN-Builds, einschließlich RK3588, RK3576, RK3566, RK3568, RK3562, RK2118 und RV1126B. Er unterstützt außerdem den INT8-quantisierten RKNN-Export mit quantize=8, was für reine INT8-Ziele wie RV1103, RV1106, RV1103B und RV1106B erforderlich ist. Diese Plattformen finden sich häufig in Geräten von Herstellern wie Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas und Banana Pi, sodass du deine optimierten RKNN-Modelle auf einer Reihe von Rockchip-betriebenen Geräten einsetzen kannst, von Einplatinencomputern bis hin zu industriellen Systemen.

Link to this sectionWie schneidet die Leistung von RKNN-Modellen im Vergleich zu anderen Formaten auf Rockchip-Geräten ab?#

RKNN-Modelle übertreffen auf Rockchip-Geräten im Allgemeinen andere Formate wie ONNX oder LiteRT aufgrund ihrer Optimierung für die NPUs von Rockchip. Beispielsweise zeigen Benchmarks auf dem Radxa Rock 5B (RK3588), dass YOLO26n im RKNN-Format eine Inferenzzeit von 65,7 ms/Bild erreicht, was deutlich schneller ist als bei anderen Formaten. Dieser Leistungsvorteil zeigt sich konsistent über verschiedene YOLO26-Modellgrößen hinweg, wie im Benchmark-Abschnitt demonstriert. Durch die Nutzung der dedizierten NPU-Hardware minimieren RKNN-Modelle die Latenz und maximieren den Durchsatz, was sie ideal für Echtzeitanwendungen auf Edge-Geräten mit Rockchip-Basis macht.