Esportazione ONNX per i modelli YOLO26#

Spesso, quando distribuisci modelli di computer vision, hai bisogno di un formato del modello flessibile e compatibile con più piattaforme.

L'esportazione dei modelli Ultralytics YOLO26 nel formato ONNX semplifica la distribuzione e garantisce prestazioni ottimali in vari ambienti. Questa guida ti mostrerà come convertire facilmente i tuoi modelli YOLO26 in ONNX e migliorarne la scalabilità e l'efficacia nelle applicazioni del mondo reale.

ONNX e ONNX Runtime#

ONNX, acronimo di Open Neural Network Exchange, è un progetto della community sviluppato inizialmente da Facebook e Microsoft. Lo sviluppo continuo di ONNX è uno sforzo collaborativo supportato da diverse organizzazioni, tra cui IBM, Amazon (attraverso AWS) e Google. Il progetto mira a creare un formato di file aperto progettato per rappresentare modelli di machine learning in modo da poterli utilizzare con diversi framework di AI e hardware.

I modelli ONNX possono essere utilizzati per passare facilmente da un framework all'altro. Ad esempio, un modello di deep learning addestrato in PyTorch può essere esportato nel formato ONNX e poi importato facilmente in TensorFlow.

In alternativa, i modelli ONNX possono essere utilizzati con ONNX Runtime. ONNX Runtime è un acceleratore multipiattaforma versatile per modelli di machine learning, compatibile con framework come PyTorch, TensorFlow, scikit-learn e altri.

ONNX Runtime ottimizza l'esecuzione dei modelli ONNX sfruttando le funzionalità specifiche dell'hardware. Questa ottimizzazione consente ai modelli di funzionare in modo efficiente e con prestazioni elevate su diverse piattaforme hardware, tra cui CPU, GPU e acceleratori specializzati.

Utilizzato autonomamente o insieme a ONNX Runtime, ONNX offre una soluzione flessibile per la distribuzione dei modelli di machine learning e la compatibilità.

Caratteristiche principali dei modelli ONNX#

La capacità di ONNX di gestire vari formati può essere attribuita alle seguenti caratteristiche principali:

• Rappresentazione comune dei modelli: ONNX definisce un insieme comune di operatori (come convoluzioni, layer e così via) e un formato standard per i dati. Quando un modello viene convertito nel formato ONNX, la sua architettura e i suoi pesi vengono tradotti in questa rappresentazione comune. Questa uniformità garantisce che il modello possa essere interpretato da qualsiasi framework che supporti ONNX.

• Versionamento e compatibilità con le versioni precedenti: ONNX mantiene un sistema di versionamento per i propri operatori. Ciò garantisce che, anche quando lo standard evolve, i modelli creati nelle versioni precedenti rimangano utilizzabili. La compatibilità con le versioni precedenti è una caratteristica fondamentale che impedisce ai modelli di diventare rapidamente obsoleti.

• Rappresentazione dei modelli basata su grafi: ONNX rappresenta i modelli come grafi computazionali. Questa struttura basata su grafi è un modo universale di rappresentare i modelli di machine learning, in cui i nodi rappresentano operazioni o calcoli e gli archi rappresentano i tensori che fluiscono tra di essi. Questo formato è facilmente adattabile a vari framework che rappresentano anch'essi i modelli come grafi.

• Strumenti ed ecosistema: intorno a ONNX esiste un ricco ecosistema di strumenti che assistono nella conversione, visualizzazione e ottimizzazione dei modelli. Questi strumenti semplificano il lavoro degli sviluppatori con i modelli ONNX e la conversione dei modelli tra diversi framework.

Utilizzi comuni di ONNX#

Prima di vedere come esportare i modelli YOLO26 nel formato ONNX, diamo un'occhiata a dove vengono solitamente utilizzati i modelli ONNX.

Distribuzione su CPU#

I modelli ONNX vengono spesso distribuiti sulle CPU grazie alla loro compatibilità con ONNX Runtime. Questo runtime è ottimizzato per l'esecuzione su CPU. Migliora significativamente la velocità di inferenza e rende praticabile la distribuzione in tempo reale su CPU.

Opzioni di distribuzione supportate#

Sebbene i modelli ONNX siano comunemente utilizzati sulle CPU, possono essere distribuiti anche sulle seguenti piattaforme:

• Accelerazione GPU: ONNX supporta completamente l'accelerazione GPU, in particolare NVIDIA CUDA. Per l'addestramento e l'inferenza nativi su GPU AMD, usa PyTorch ROCm; un file ONNX richiede comunque un runtime compatibile con AMD.

• Dispositivi edge e mobili: ONNX si estende ai dispositivi edge e mobili, ideali per scenari di inferenza sul dispositivo e in tempo reale. È leggero e compatibile con l'hardware edge e costituisce la base per i formati NPU dei vendor, come Huawei Ascend, Qualcomm QNN per i dispositivi Snapdragon e RKNN per le NPU Rockchip.

• Browser web: ONNX può essere eseguito direttamente nei browser web, alimentando applicazioni AI interattive e dinamiche basate sul web.

Attività supportate#

L'esportazione ONNX supporta tutte e sette le attività di Ultralytics. La segmentazione semantica e la stima della profondità sono disponibili solo con YOLO26, l'unica famiglia che include queste head.

Esportazione dei modelli YOLO26 in ONNX#

Puoi ampliare la compatibilità dei modelli e la flessibilità di distribuzione convertendo i modelli YOLO26 nel formato ONNX. Ultralytics YOLO26 offre un processo di esportazione semplice che può migliorare significativamente le prestazioni del tuo modello su diverse piattaforme.

Installazione#

Per installare il pacchetto richiesto, esegui:

# Install the required package for YOLO26
pip install ultralytics

Per istruzioni dettagliate e best practice relative al processo di installazione, consulta la nostra guida all'installazione di YOLO26. Se durante l'installazione dei pacchetti richiesti per YOLO26 riscontri difficoltà, consulta la nostra guida ai problemi comuni per trovare soluzioni e suggerimenti.

Utilizzo#

Prima di passare alle istruzioni per l'utilizzo, dai un'occhiata alla gamma di modelli YOLO26 offerti da Ultralytics. Questo ti aiuterà a scegliere il modello più adatto ai requisiti del tuo progetto.

Il formato ONNX supporta le modalità Export, Predict e Validate. Esporta il modello, quindi carica il modello esportato per eseguire l'inferenza o convalidarne l'accuratezza.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to ONNX format
model.export(format="onnx")  # creates 'yolo26n.onnx'

# Export an INT8-quantized ONNX model with calibration data
model.export(format="onnx", quantize=8, data="coco8.yaml")  # creates 'yolo26n_int8.onnx'

from ultralytics import YOLO

# Load the exported ONNX model
model = YOLO("yolo26n.onnx")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported ONNX model
model = YOLO("yolo26n.onnx")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argomenti di esportazione#

Quando esporti il tuo modello YOLO26 nel formato ONNX, puoi personalizzare il processo usando diversi argomenti per ottimizzarlo in base alle tue specifiche esigenze di distribuzione:

Per ulteriori dettagli sul processo di esportazione, visita la pagina della documentazione Ultralytics sull'esportazione.

Distribuzione dei modelli YOLO26 ONNX esportati#

Dopo aver esportato correttamente i tuoi modelli Ultralytics YOLO26 nel formato ONNX, il passaggio successivo consiste nel distribuirli in vari ambienti. Per istruzioni dettagliate sulla distribuzione dei tuoi modelli ONNX, consulta le seguenti risorse:

• Documentazione dell'API Python di ONNX Runtime: questa guida fornisce informazioni essenziali per caricare ed eseguire modelli ONNX usando ONNX Runtime.

• Distribuzione su dispositivi edge: consulta questa pagina della documentazione per diversi esempi di distribuzione di modelli ONNX su dispositivi edge.

• Tutorial ONNX su GitHub: una raccolta di tutorial completi che trattano vari aspetti dell'utilizzo e dell'implementazione dei modelli ONNX in diversi scenari.

• Triton Inference Server: scopri come distribuire i tuoi modelli ONNX con Triton Inference Server di NVIDIA per distribuzioni scalabili e ad alte prestazioni.

Riepilogo#

In questa guida hai imparato a esportare i modelli Ultralytics YOLO26 nel formato ONNX per aumentarne l'interoperabilità e le prestazioni su diverse piattaforme. Hai anche conosciuto ONNX Runtime e le opzioni di distribuzione di ONNX.

L'esportazione ONNX è solo uno dei numerosi formati di esportazione supportati da Ultralytics YOLO26 e ti consente di distribuire i tuoi modelli praticamente in qualsiasi ambiente. In base alle tue esigenze specifiche, potresti anche voler esplorare altre opzioni di esportazione, come TensorRT per ottenere le massime prestazioni GPU o CoreML per i dispositivi Apple.

Per ulteriori dettagli sull'utilizzo, consulta la documentazione ufficiale di ONNX.

Inoltre, se vuoi saperne di più sulle altre integrazioni di Ultralytics YOLO26, visita la nostra pagina della guida alle integrazioni. Troverai numerose risorse e informazioni utili.

FAQ#