Esportazione del modello con Ultralytics YOLO

Introduzione

L'obiettivo finale dell'addestramento di un modello è quello di utilizzarlo per applicazioni reali. La modalità di esportazione di Ultralytics YOLO11 offre una gamma versatile di opzioni per esportare il modello addestrato in diversi formati, rendendolo distribuibile su varie piattaforme e dispositivi. Questa guida completa si propone di guidarvi attraverso le sfumature dell'esportazione del modello, mostrandovi come ottenere la massima compatibilità e le migliori prestazioni.

Guarda: Come esportare un modello addestrato personalizzato Ultralytics YOLO ed eseguire l'inferenza in diretta sulla webcam.

Perché scegliere la modalità di esportazione di YOLO11?

• Versatilità: Esportazione in più formati, tra cui ONNX, TensorRT, CoreMLe altro ancora.
• Prestazioni: Ottieni una velocità della GPU fino a 5 volte con TensorRT e 3 volte con ONNX o CPU . OpenVINO.
• Compatibilità: Rendete il vostro modello universalmente distribuibile in numerosi ambienti hardware e software.
• Facilità d'uso: semplici API CLI e Python per un'esportazione rapida e semplice dei modelli.

Caratteristiche principali della modalità di esportazione

Ecco alcune delle funzionalità più importanti:

• Esportazione con un solo clic: Semplici comandi per l'esportazione in diversi formati.
• Esportazione in batch: Esportazione di modelli in grado di fare interferenza in batch.
• Inferenza ottimizzata: I modelli esportati sono ottimizzati per velocizzare i tempi di inferenza.
• Video tutorial: Guide ed esercitazioni approfondite per un'esperienza di esportazione senza problemi.

Esempi di utilizzo

Esporta un modello YOLO11n in un formato diverso, come ONNX o TensorRT. Per un elenco completo degli argomenti di esportazione, consultare la sezione Argomenti.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Argomenti

Questa tabella illustra le configurazioni e le opzioni disponibili per l'esportazione dei modelli YOLO in diversi formati. Queste impostazioni sono fondamentali per ottimizzare le prestazioni, le dimensioni e la compatibilità del modello esportato su varie piattaforme e ambienti. Una configurazione adeguata garantisce che il modello sia pronto per essere distribuito nell'applicazione prevista con un'efficienza ottimale.

La regolazione di questi parametri consente di personalizzare il processo di esportazione per adattarlo a requisiti specifici, come l'ambiente di distribuzione, i vincoli hardware e gli obiettivi di prestazione. La scelta del formato e delle impostazioni appropriate è essenziale per ottenere il miglior equilibrio tra dimensioni del modello, velocità e precisione.

Formati di esportazione

I formati di esportazione disponibili in YOLO11 sono riportati nella tabella seguente. È possibile esportare in qualsiasi formato utilizzando l'opzione format cioè l'argomento format='onnx' o format='engine'. È possibile prevedere o convalidare direttamente i modelli esportati, ad es. yolo predict model=yolo11n.onnx. Al termine dell'esportazione vengono mostrati esempi di utilizzo del modello.

FAQ

Come si esporta un modello YOLO11 in formato ONNX ?

L'esportazione di un modello YOLO11 in formato ONNX è semplice con Ultralytics. Esso fornisce sia i metodi Python che CLI per l'esportazione dei modelli.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Per maggiori dettagli sul processo, comprese le opzioni avanzate come la gestione di input di dimensioni diverse, consultare la guida all'integrazione diONNX .

Quali sono i vantaggi dell'utilizzo di TensorRT per l'esportazione dei modelli?

L'uso di TensorRT per l'esportazione dei modelli offre miglioramenti significativi delle prestazioni. I modelli di YOLO11 esportati in TensorRT possono ottenere una velocità fino a 5 volte superiore a GPU , rendendolo ideale per le applicazioni di inferenza in tempo reale.

• Versatilità: Ottimizzare i modelli per una specifica configurazione hardware.
• Velocità: Ottenere un'inferenza più veloce grazie a ottimizzazioni avanzate.
• Compatibilità: Si integra perfettamente con l'hardware di NVIDIA .

Per saperne di più sull'integrazione di TensorRT, consultare la guida all'integrazione diTensorRT .

Come si abilita la quantizzazione INT8 quando si esporta il modello YOLO11 ?

La quantizzazione INT8 è un modo eccellente per comprimere il modello e accelerare l'inferenza, soprattutto sui dispositivi edge. Ecco come abilitare la quantizzazione INT8:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")  # Load a model
model.export(format="engine", int8=True)

yolo export model=yolo11n.pt format=engine int8=True # export TensorRT model with INT8 quantization

La quantizzazione INT8 può essere applicata a vari formati, come ad esempio TensorRT, OpenVINO, e CoreML. Per ottenere risultati ottimali di quantizzazione, fornire un'immagine rappresentativa set di dati utilizzando il data parametro.

Perché la dimensione dell'input dinamico è importante quando si esportano i modelli?

La dimensione dinamica dell'input consente al modello esportato di gestire immagini di dimensioni diverse, garantendo flessibilità e ottimizzando l'efficienza dell'elaborazione per diversi casi d'uso. Quando si esporta in formati come ONNX o TensorRTl'abilitazione della dimensione di input dinamica garantisce che il modello possa adattarsi senza problemi a forme di input diverse.

Per abilitare questa funzione, utilizzare il comando dynamic=True durante l'esportazione:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolo11n.pt format=onnx dynamic=True

Il dimensionamento dinamico dell'ingresso è particolarmente utile per le applicazioni in cui le dimensioni dell'ingresso possono variare, come l'elaborazione video o la gestione di immagini provenienti da fonti diverse.

Quali sono i principali argomenti di esportazione da considerare per ottimizzare le prestazioni del modello?

La comprensione e la configurazione degli argomenti di esportazione sono fondamentali per ottimizzare le prestazioni del modello:

• format: Il formato di destinazione del modello esportato (ad es, onnx, torchscript, tensorflow).
• imgsz: Dimensione dell'immagine desiderata per l'input del modello (ad es, 640 o (height, width)).
• half: Abilita la quantizzazione FP16, riducendo le dimensioni del modello e potenzialmente accelerando l'inferenza.
• optimize: Applica ottimizzazioni specifiche per ambienti mobili o vincolati.
• int8: Abilita la quantizzazione INT8, estremamente utile per bordo AI distribuzioni.

Per l'implementazione su piattaforme hardware specifiche, si consiglia di utilizzare formati di esportazione specializzati, come ad esempio TensorRT per le GPU NVIDIA , CoreML per i dispositivi Apple o Edge TPU per i dispositivi Google Coral.

📅C reato 1 anno fa ✏️ Aggiornato 3 giorni fa

Commenti