Esportazione di modelli con Ultralytics YOLO

Introduzione

L'obiettivo finale dell'addestramento di un modello è quello di implementarlo per applicazioni nel mondo reale. La modalità di esportazione in Ultralytics YOLO11 offre una gamma versatile di opzioni per esportare il modello addestrato in diversi formati, rendendolo implementabile su varie piattaforme e dispositivi. Questa guida completa ha lo scopo di accompagnarti attraverso le sfumature dell'esportazione del modello, mostrando come ottenere la massima compatibilità e prestazioni.

Guarda: Come esportare un modello Ultralytics YOLO addestrato personalizzato ed eseguire l'inferenza in tempo reale su webcam.

Perché scegliere la modalità di esportazione di YOLO11?

• Versatilità: Esporta in più formati tra cui ONNX, TensorRT, CoreML e altri.
• Prestazioni: Ottieni un aumento di velocità della GPU fino a 5 volte con TensorRT e un aumento di velocità della CPU di 3 volte con ONNX o OpenVINO.
• Compatibilità: Rendi il tuo modello universalmente implementabile in numerosi ambienti hardware e software.
• Facilità d'uso: Semplice API CLI e python per un'esportazione del modello rapida e diretta.

Caratteristiche principali della modalità di esportazione

Ecco alcune delle funzionalità più importanti:

• Esportazione con un clic: Comandi semplici per l'esportazione in diversi formati.
• Esportazione batch: Esporta modelli in grado di eseguire l'inferenza in batch.
• Inferenza ottimizzata: I modelli esportati sono ottimizzati per tempi di inferenza più rapidi.
• Video tutorial: Guide e tutorial approfonditi per un'esperienza di esportazione fluida.

Esempi di utilizzo

Esporta un modello YOLO11n in un formato diverso come ONNX o TensorRT. Consulta la sezione Argomenti di seguito per un elenco completo degli argomenti di esportazione.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Argomenti

Questa tabella descrive in dettaglio le configurazioni e le opzioni disponibili per l'esportazione di modelli YOLO in diversi formati. Queste impostazioni sono fondamentali per ottimizzare le prestazioni, le dimensioni e la compatibilità del modello esportato su varie piattaforme e ambienti. Una configurazione corretta garantisce che il modello sia pronto per l'implementazione nell'applicazione prevista con la massima efficienza.

La regolazione di questi parametri consente la personalizzazione del processo di esportazione per adattarsi a requisiti specifici, come l'ambiente di implementazione, i vincoli hardware e gli obiettivi di prestazioni. La selezione del formato e delle impostazioni appropriati è essenziale per ottenere il miglior equilibrio tra dimensioni del modello, velocità e precisione.

Formati di esportazione

I formati di esportazione YOLO11 disponibili sono nella tabella sottostante. Puoi esportare in qualsiasi formato usando l' format argomento, ad esempio format='onnx' oppure format='engine'. Puoi prevedere o convalidare direttamente sui modelli esportati, ad esempio yolo predict model=yolo11n.onnx. Esempi di utilizzo vengono mostrati per il tuo modello dopo che l'esportazione è stata completata.

FAQ

Come posso esportare un modello YOLO11 in formato ONNX?

L'esportazione di un modello YOLO11 in formato ONNX è semplice con Ultralytics. Fornisce metodi python e CLI per l'esportazione dei modelli.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Per maggiori dettagli sul processo, comprese le opzioni avanzate come la gestione di diverse dimensioni di input, fare riferimento alla guida all'integrazione ONNX.

Quali sono i vantaggi dell'utilizzo di TensorRT per l'esportazione del modello?

L'utilizzo di TensorRT per l'esportazione del modello offre notevoli miglioramenti delle prestazioni. I modelli YOLO11 esportati in TensorRT possono raggiungere un aumento di velocità della GPU fino a 5 volte, rendendolo ideale per applicazioni di inferenza in tempo reale.

• Versatilità: Ottimizza i modelli per una specifica configurazione hardware.
• Velocità: Ottieni un'inferenza più rapida attraverso ottimizzazioni avanzate.
• Compatibilità: Integra facilmente con hardware NVIDIA.

Per saperne di più sull'integrazione di TensorRT, consulta la guida all'integrazione di TensorRT.

Come posso abilitare la quantizzazione INT8 durante l'esportazione del mio modello YOLO11?

La quantizzazione INT8 è un ottimo modo per comprimere il modello e accelerare l'inferenza, specialmente sui dispositivi edge. Ecco come puoi abilitare la quantizzazione INT8:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")  # Load a model
model.export(format="engine", int8=True)

yolo export model=yolo11n.pt format=engine int8=True # export TensorRT model with INT8 quantization

La quantizzazione INT8 può essere applicata a vari formati, come TensorRT, OpenVINO, e CoreML. Per risultati di quantizzazione ottimali, fornire un elemento rappresentativo dataset utilizzando il data parametro.

Perché la dimensione di input dinamica è importante quando si esportano i modelli?

La dimensione di input dinamica consente al modello esportato di gestire dimensioni dell'immagine variabili, offrendo flessibilità e ottimizzando l'efficienza di elaborazione per diversi casi d'uso. Quando si esporta in formati come ONNX o TensorRT, abilitare la dimensione di input dinamica assicura che il modello possa adattarsi senza problemi a diverse forme di input.

Per abilitare questa funzionalità, usa il flag dynamic=True durante l'esportazione:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolo11n.pt format=onnx dynamic=True

Il dimensionamento dinamico dell'input è particolarmente utile per applicazioni in cui le dimensioni dell'input possono variare, come l'elaborazione video o la gestione di immagini provenienti da fonti diverse.

Quali sono gli argomenti chiave di esportazione da considerare per ottimizzare le prestazioni del modello?

Comprendere e configurare gli argomenti di esportazione è fondamentale per ottimizzare le prestazioni del modello:

• format: Il formato di destinazione per il modello esportato (ad esempio, onnx, torchscript, tensorflow).
• imgsz: Dimensione dell'immagine desiderata per l'input del modello (ad esempio, 640 oppure (height, width)).
• half: Abilita la quantizzazione FP16, riducendo le dimensioni del modello e potenzialmente accelerando l'inferenza.
• optimize: Applica ottimizzazioni specifiche per ambienti mobili o vincolati.
• int8: Abilita la quantizzazione INT8, altamente vantaggiosa per edge AI deployment.

Per la distribuzione su piattaforme hardware specifiche, valuta l'utilizzo di formati di esportazione specializzati come TensorRT per GPU NVIDIA, CoreML per dispositivi Apple o Edge TPU per dispositivi Google Coral.

📅 Creato 1 anno fa ✏️ Aggiornato 6 mesi fa

Commenti