Esportazione ONNX per i modelli YOLO26#

Spesso, quando distribuisci modelli di visione artificiale, ti serve un formato di modello flessibile e compatibile con più piattaforme.

Esportare i modelli Ultralytics YOLO26 nel formato ONNX semplifica la distribuzione e garantisce prestazioni ottimali in diversi ambienti. Questa guida ti mostrerà come convertire facilmente i tuoi modelli YOLO26 in ONNX e migliorarne la scalabilità e l'efficacia nelle applicazioni del mondo reale.

ONNX e ONNX Runtime#

ONNX, acronimo di Open Neural Network Exchange, è un progetto della community inizialmente sviluppato da Facebook e Microsoft. Lo sviluppo continuo di ONNX è un impegno collaborativo sostenuto da diverse organizzazioni, tra cui IBM, Amazon (tramite AWS) e Google. Il progetto mira a creare un formato di file aperto per rappresentare i modelli di machine learning in modo da poterli usare con diversi framework di intelligenza artificiale e hardware.

I modelli ONNX permettono di passare agevolmente da un framework all'altro. Per esempio, un modello di deep learning addestrato in PyTorch può essere esportato nel formato ONNX e poi importato facilmente in TensorFlow.

In alternativa, i modelli ONNX possono essere usati con ONNX Runtime. ONNX Runtime è un acceleratore versatile e multipiattaforma per modelli di machine learning, compatibile con framework come PyTorch, TensorFlow, scikit-learn e altri.

ONNX Runtime ottimizza l'esecuzione dei modelli ONNX sfruttando le funzionalità specifiche dell'hardware. Questa ottimizzazione consente ai modelli di funzionare in modo efficiente e con prestazioni elevate su varie piattaforme hardware, incluse CPU, GPU e acceleratori specializzati.

Usato da solo o insieme a ONNX Runtime, ONNX offre una soluzione flessibile per la compatibilità e la distribuzione dei modelli di machine learning.

Caratteristiche principali dei modelli ONNX#

La capacità di ONNX di gestire diversi formati si basa sulle seguenti caratteristiche principali:

• Rappresentazione comune dei modelli: ONNX definisce un insieme comune di operatori (come convoluzioni, layer e così via) e un formato dati standard. Quando un modello viene convertito nel formato ONNX, la sua architettura e i suoi pesi vengono tradotti in questa rappresentazione comune. Questa uniformità garantisce che qualsiasi framework compatibile con ONNX possa interpretare il modello.

• Controllo delle versioni e compatibilità con le versioni precedenti: ONNX mantiene un sistema di versionamento per i suoi operatori. In questo modo, anche con l'evoluzione dello standard, i modelli creati con le versioni precedenti restano utilizzabili. La compatibilità con le versioni precedenti è una caratteristica fondamentale che evita che i modelli diventino obsoleti rapidamente.

• Rappresentazione dei modelli basata su grafi: ONNX rappresenta i modelli come grafi computazionali. Questa struttura a grafo è un metodo universale per rappresentare i modelli di machine learning: i nodi rappresentano operazioni o calcoli, mentre gli archi rappresentano i tensori che fluiscono tra i nodi. Questo formato si adatta facilmente ai vari framework che rappresentano anch'essi i modelli come grafi.

• Strumenti ed ecosistema: ONNX dispone di un ricco ecosistema di strumenti che supportano la conversione, la visualizzazione e l'ottimizzazione dei modelli. Questi strumenti semplificano il lavoro degli sviluppatori con i modelli ONNX e la conversione agevole dei modelli tra diversi framework.

Usi comuni di ONNX#

Prima di vedere come esportare i modelli YOLO26 nel formato ONNX, diamo un'occhiata agli usi più comuni dei modelli ONNX.

Distribuzione su CPU#

I modelli ONNX vengono spesso distribuiti su CPU grazie alla compatibilità con ONNX Runtime. Questo runtime è ottimizzato per l'esecuzione su CPU. Migliora notevolmente la velocità di inferenza e rende fattibili le distribuzioni in tempo reale su CPU.

Opzioni di distribuzione supportate#

Sebbene i modelli ONNX siano usati comunemente sulle CPU, possono essere distribuiti anche sulle seguenti piattaforme:

• Accelerazione GPU: ONNX supporta pienamente l'accelerazione GPU sulle GPU NVIDIA tramite CUDA e sulle GPU AMD tramite ROCm e MIGraphX.

• Dispositivi edge e mobili: ONNX supporta dispositivi edge e mobili, ideali per scenari di inferenza in tempo reale e direttamente sul dispositivo. È leggero e compatibile con l'hardware edge, oltre a costituire la base per formati NPU specifici dei produttori, come Huawei Ascend, Qualcomm QNN per i dispositivi Snapdragon e RKNN per le NPU Rockchip.

• Browser web: ONNX può essere eseguito direttamente nei browser web, consentendo applicazioni di intelligenza artificiale interattive e dinamiche basate sul web.

Attività supportate#

L'esportazione ONNX supporta tutte e sette le attività di Ultralytics. La segmentazione semantica e la stima della profondità sono disponibili solo con YOLO26, l'unica famiglia che include queste head.

Esportazione dei modelli YOLO26 in ONNX#

Puoi ampliare la compatibilità dei modelli e la flessibilità di distribuzione convertendo i modelli YOLO26 nel formato ONNX. Ultralytics YOLO26 offre un processo di esportazione semplice, che può migliorare notevolmente le prestazioni del tuo modello su diverse piattaforme.

Installazione#

Per installare il pacchetto richiesto, esegui:

# Install the required package for YOLO26
pip install ultralytics

Per istruzioni dettagliate e buone pratiche relative al processo di installazione, consulta la nostra guida all'installazione di YOLO26. Se durante l'installazione dei pacchetti necessari per YOLO26 riscontri difficoltà, consulta la nostra guida ai problemi comuni per trovare soluzioni e suggerimenti.

Utilizzo#

Prima di approfondire le istruzioni per l'uso, dai un'occhiata alla gamma di modelli YOLO26 offerti da Ultralytics. Ti aiuterà a scegliere il modello più adatto ai requisiti del tuo progetto.

Il formato ONNX supporta le modalità Esportazione, Predizione e Validazione. Esporta il modello, quindi carica il modello esportato per eseguire inferenze o convalidarne l'accuratezza.

from ultralytics import YOLO

# Carica un modello YOLO26
model = YOLO("yolo26n.pt")

# Esporta il modello in formato ONNX
model.export(format="onnx")  # crea 'yolo26n.onnx'

# Esporta un modello ONNX quantizzato INT8 con dati di calibrazione
model.export(format="onnx", quantize=8, data="coco8.yaml")  # crea 'yolo26n_int8.onnx'

from ultralytics import YOLO

# Carica il modello ONNX esportato
model = YOLO("yolo26n.onnx")

# Esegui l'inferenza
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Carica il modello ONNX esportato
model = YOLO("yolo26n.onnx")

# # Convalida l'accuratezza sul dataset COCO8
metrics = model.val(data="coco8.yaml")

Argomenti di esportazione#

Quando esporti il tuo modello YOLO26 nel formato ONNX, puoi personalizzare il processo usando vari argomenti per ottimizzarlo in base alle esigenze specifiche di distribuzione:

Per ulteriori dettagli sul processo di esportazione, visita la pagina della documentazione Ultralytics dedicata all'esportazione.

Distribuzione dei modelli YOLO26 ONNX esportati#

Dopo aver esportato correttamente i tuoi modelli Ultralytics YOLO26 nel formato ONNX, il passo successivo consiste nel distribuirli in vari ambienti. Per istruzioni dettagliate sulla distribuzione dei modelli ONNX, consulta le seguenti risorse:

• Documentazione dell'API Python di ONNX Runtime: questa guida fornisce informazioni essenziali per caricare ed eseguire modelli ONNX usando ONNX Runtime.

• Distribuzione su dispositivi edge: consulta questa pagina della documentazione per esempi diversi di distribuzione di modelli ONNX su dispositivi edge.

• Tutorial ONNX su GitHub: una raccolta di tutorial completi che illustra vari aspetti dell'uso e dell'implementazione dei modelli ONNX in diversi scenari.

• Triton Inference Server: scopri come distribuire i tuoi modelli ONNX con Triton Inference Server di NVIDIA per distribuzioni scalabili e ad alte prestazioni.

Inferenza su GPU AMD con MIGraphX#

Ultralytics esegue i modelli ONNX esportati sulle GPU AMD tramite il provider di esecuzione MIGraphX di ONNX Runtime. Su un sistema ROCm (HIP), il backend ONNX installa il plugin onnxruntime-ep-migraphx al primo utilizzo e seleziona automaticamente MIGraphXExecutionProvider, senza richiedere modifiche al codice; sono supportate tutte le attività YOLO26. Consulta la guida all'inferenza su GPU AMD per conoscere i prerequisiti, l'installazione, l'utilizzo, i benchmark e la cache dei programmi compilati.

Riepilogo#

In questa guida hai imparato a esportare i modelli Ultralytics YOLO26 nel formato ONNX per aumentarne l'interoperabilità e le prestazioni su diverse piattaforme. Hai anche scoperto ONNX Runtime e le opzioni di distribuzione ONNX.

L'esportazione ONNX è solo uno dei molti formati di esportazione supportati da Ultralytics YOLO26, che ti consentono di distribuire i modelli praticamente in qualsiasi ambiente. In base alle tue esigenze specifiche, potresti voler esplorare anche altre opzioni di esportazione, come TensorRT per ottenere le massime prestazioni GPU o CoreML per i dispositivi Apple.

Per ulteriori dettagli sull'utilizzo, visita la documentazione ufficiale di ONNX.

Inoltre, se vuoi saperne di più sulle altre integrazioni di Ultralytics YOLO26, visita la nostra pagina della guida alle integrazioni. Troverai molte risorse e informazioni utili.

Domande frequenti#