Esportazione RKNN per Rockchip dei modelli Ultralytics YOLO26#

Quando distribuisci modelli di visione artificiale su dispositivi embedded, soprattutto quelli basati su processori Rockchip, è essenziale disporre di un formato di modello compatibile. Esportare i modelli Ultralytics YOLO26 in formato RKNN garantisce prestazioni ottimizzate e compatibilità con l'hardware Rockchip. Questa guida illustra come convertire i modelli YOLO26 in formato RKNN, comprese le esportazioni in virgola mobile e quantizzate INT8, per consentire una distribuzione efficiente sulle piattaforme Rockchip.

Che cos'è Rockchip?#

Nota per la realizzazione di soluzioni versatili ed efficienti dal punto di vista energetico, Rockchip progetta System-on-Chips (SoC) avanzati che alimentano un'ampia gamma di dispositivi elettronici di consumo, applicazioni industriali e tecnologie IA. Grazie all'architettura basata su ARM, alle Neural Processing Units (NPU) integrate e al supporto multimediale ad alta risoluzione, i SoC Rockchip offrono prestazioni all'avanguardia per dispositivi come tablet, smart TV, sistemi IoT e applicazioni di IA edge. Aziende come Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi offrono una varietà di prodotti basati sui SoC Rockchip, ampliandone ulteriormente la diffusione e l'impatto in diversi mercati.

RKNN Toolkit#

RKNN Toolkit è un insieme di strumenti e librerie forniti da Rockchip per facilitare la distribuzione di modelli di deep learning sulle proprie piattaforme hardware. RKNN, ovvero Rockchip Neural Network, è il formato proprietario utilizzato da questi strumenti. I modelli RKNN sono progettati per sfruttare appieno l'accelerazione hardware offerta dalla NPU (Neural Processing Unit) di Rockchip, garantendo prestazioni elevate nelle attività di IA su dispositivi come RK3588, RK3566, RV1103, RV1106 e altri sistemi basati su Rockchip.

Caratteristiche principali dei modelli RKNN#

I modelli RKNN offrono diversi vantaggi per la distribuzione sulle piattaforme Rockchip:

• Ottimizzazione per NPU: i modelli RKNN sono ottimizzati specificamente per essere eseguiti sulle NPU Rockchip, garantendo prestazioni ed efficienza massime.
• Bassa latenza: il formato RKNN riduce al minimo la latenza di inferenza, un aspetto fondamentale per le applicazioni in tempo reale sui dispositivi edge.
• Personalizzazione specifica per piattaforma: i modelli RKNN possono essere adattati a specifiche piattaforme Rockchip, consentendo un migliore utilizzo delle risorse hardware.
• Efficienza energetica: grazie all'hardware NPU dedicato, i modelli RKNN consumano meno energia rispetto all'elaborazione basata su CPU o GPU, prolungando la durata della batteria dei dispositivi portatili.

Installare il sistema operativo sull'hardware Rockchip#

Il primo passo dopo aver ricevuto un dispositivo basato su Rockchip è installare un sistema operativo, in modo che l'hardware possa avviarsi in un ambiente funzionante. In questa guida rimandiamo alle guide introduttive dei due dispositivi che abbiamo testato: Radxa Rock 5B e Radxa Zero 3W.

• Guida introduttiva a Radxa Rock 5B
• Guida introduttiva a Radxa Zero 3W

Attività supportate#

L'esportazione RKNN supporta tutte e sette le attività Ultralytics. La segmentazione semantica e la stima della profondità sono disponibili solo con YOLO26, l'unica famiglia che include queste head.

Esportazione in RKNN: conversione del tuo modello YOLO26#

Esporta un modello Ultralytics YOLO26 nel formato RKNN ed esegui l'inferenza con il modello esportato.

Installazione#

Per installare i pacchetti necessari, esegui:

# Install the required package for YOLO26
pip install ultralytics

Per istruzioni dettagliate e best practice sulla procedura di installazione, consulta la nostra guida all'installazione di Ultralytics. Se durante l'installazione dei pacchetti necessari per YOLO26 riscontri difficoltà, consulta la nostra guida ai problemi comuni per trovare soluzioni e suggerimenti.

Utilizzo#

Il formato RKNN supporta le modalità Esporta, Prevedi e Convalida. L'inferenza e la convalida vengono eseguite sull'hardware NPU Rockchip. Esporta il modello, quindi carica il modello esportato per eseguire l'inferenza o convalidarne la precisione. Per impostazione predefinita, l'esportazione RKNN utilizza il percorso di compilazione in virgola mobile (quantize=16) per i target Rockchip compatibili con FP16. Usa quantize=8 per compilare un modello RKNN quantizzato INT8 con dati di calibrazione. L'esportazione RKNN non espone una modalità FP32 separata; l'impostazione predefinita FP16 non richiede FP32.

from ultralytics import YOLO

# Carica un modello YOLO26 (sostituiscilo con un modello di qualsiasi attività supportata)
model = YOLO("yolo26n-obb.pt")

# Esporta il modello nel formato RKNN
model.export(format="rknn", name="rk3588")  # creates 'yolo26n-obb_rknn_model'

# Esporta un modello RKNN quantizzato INT8 con dati di calibrazione (solo modelli di rilevamento)
model = YOLO("yolo26n.pt")
model.export(format="rknn", name="rk3588", quantize=8, data="coco8.yaml")  # creates 'yolo26n_rknn_model'

from ultralytics import YOLO

# Carica il modello RKNN esportato
model = YOLO("./yolo26n-obb_rknn_model")

# Esegui l'inferenza
results = model("https://ultralytics.com/images/boats.jpg")

from ultralytics import YOLO

# Carica il modello RKNN esportato
model = YOLO("./yolo26n-obb_rknn_model")

# Convalida la precisione sul dataset DOTA8
metrics = model.val(data="dota8.yaml")

Argomenti di esportazione#

Per ulteriori dettagli sul processo di esportazione, visita la pagina della documentazione Ultralytics dedicata all'esportazione.

Distribuzione dei modelli YOLO26 RKNN esportati#

Dopo aver esportato correttamente i tuoi modelli Ultralytics YOLO26 nel formato RKNN, il passo successivo consiste nel distribuirli sui dispositivi basati su Rockchip.

Installazione#

Per installare i pacchetti necessari, esegui:

# Install the required package for YOLO26
pip install ultralytics

Una volta installato, esegui l'inferenza e la convalida sul tuo dispositivo Rockchip esattamente come indicato nella sezione Utilizzo qui sopra: il modello esportato _rknn_model si carica direttamente con YOLO(...).

Applicazioni nel mondo reale#

I dispositivi basati su Rockchip con modelli YOLO26 RKNN possono essere utilizzati in diverse applicazioni:

• Videosorveglianza intelligente: distribuisci sistemi efficienti di rilevamento degli oggetti per il monitoraggio della sicurezza con consumi energetici ridotti.
• Automazione industriale: implementa il controllo qualità e il rilevamento dei difetti direttamente sui dispositivi embedded.
• Analisi per il commercio al dettaglio: monitora in tempo reale il comportamento dei clienti e la gestione delle scorte, senza dipendere dal cloud.
• Agricoltura intelligente: monitora la salute delle colture e rileva i parassiti usando la visione artificiale in agricoltura.
• Robotica autonoma: abilita la navigazione basata sulla visione e il rilevamento degli ostacoli su piattaforme con risorse limitate.

Benchmark#

I benchmark di YOLO26 riportati qui sotto sono stati eseguiti dal team Ultralytics su Radxa Rock 5B, basato su Rockchip RK3588, usando il formato modello rknn per misurare velocità e precisione.

Riepilogo#

In questa guida hai imparato a esportare i modelli Ultralytics YOLO26 nel formato RKNN per migliorarne la distribuzione sulle piattaforme Rockchip. Hai anche conosciuto RKNN Toolkit e i vantaggi specifici dell'uso dei modelli RKNN per le applicazioni di IA edge.

La combinazione tra Ultralytics YOLO26 e la tecnologia NPU di Rockchip offre una soluzione efficiente per eseguire attività avanzate di visione artificiale su dispositivi embedded. Questo approccio consente il rilevamento degli oggetti in tempo reale e altre applicazioni di IA visiva, con consumi energetici minimi e prestazioni elevate.

Per ulteriori dettagli sull'utilizzo, consulta la documentazione ufficiale RKNN.

Inoltre, se vuoi saperne di più sulle altre integrazioni di Ultralytics YOLO26, visita la nostra pagina della guida alle integrazioni. Troverai molte risorse e informazioni utili.

Domande frequenti#