Ultralytics YOLO ile Model Dışa Aktarımı#

Giriş#

Bir model eğitmenin nihai amacı, modeli gerçek dünya uygulamaları için dağıtmaktır. Ultralytics YOLO26 içindeki Dışa Aktarma modu, eğitilmiş modelini farklı formatlara aktarman için çok yönlü seçenekler sunarak modelin çeşitli platformlarda ve cihazlarda dağıtılabilmesini sağlar. Bu kapsamlı kılavuz, model dışa aktarımının inceliklerini adım adım göstermeyi ve maksimum uyumluluk ile performans elde etmenin nasıl sağlanacağını sergilemeyi amaçlamaktadır.

Planlanan dışa aktarma desteği için yayınlanmamış YOLO27 önizlemesine göz at.

Neden YOLO26'nın Dışa Aktarma Modunu Seçmelisin?#

• Çok Yönlülük: ONNX, TensorRT, CoreML ve daha fazlası dahil olmak üzere birden fazla forma dışa aktar.
• Performans: TensorRT ile 5 kata kadar GPU hızlanması ve ONNX veya OpenVINO ile 3 kata kadar CPU hızlanması elde et.
• Uyumluluk: Modelini çok sayıda donanım ve yazılım ortamında evrensel olarak dağıtılabilir hale getir.
• Kullanım Kolaylığı: Hızlı ve anlaşılır model dışa aktarımı için basit CLI ve Python API.

Dışa Aktarma Modunun Temel Özellikleri#

Öne çıkan işlevlerden bazıları şunlardır:

• Tek Tıkla Dışa Aktarım: Farklı formatlara dışa aktarma için basit komutlar.
• Toplu Dışa Aktarım: Toplu çıkarım yapabilen modelleri dışa aktar.
• Optimize Edilmiş Çıkarım: Dışa aktarılan modeller, daha hızlı çıkarım süreleri için optimize edilmiştir.
• Eğitim Videoları: Sorunsuz bir dışa aktarım deneyimi için derinlemesine kılavuzlar ve eğitimler.

Kullanım Örnekleri#

Bir YOLO26n modelini ONNX veya TensorRT gibi farklı bir forma dışa aktar. Dışa aktarma argümanlarının tam listesi için aşağıdaki Argümanlar bölümüne bakın.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

Bağımsız değişkenler#

Bu tablo, YOLO modellerini farklı formatlara aktarmak için mevcut olan yapılandırmaları ve seçenekleri detaylandırmaktadır. Bu ayarlar, dışa aktarılan modelin performansını, boyutunu ve çeşitli platformlar ile ortamlardaki uyumluluğunu optimize etmek için kritik önem taşır. Doğru yapılandırma, modelin amaçlanan uygulamada en yüksek verimlilikle dağıtıma hazır olmasını sağlar.

Bu parametreleri ayarlamak, dışa aktarma sürecini dağıtım ortamı, donanım kısıtlamaları ve performans hedefleri gibi belirli gereksinimlere uyacak şekilde özelleştirmeye olanak tanır. Uygun formatı ve ayarları seçmek, model boyutu, hızı ve doğruluk arasında en iyi dengeyi yakalamak için esastır.

Dışa Aktarma Biçimleri#

Mevcut YOLO26 dışa aktarma formatları aşağıdaki tabloda yer almaktadır. format argümanını, yani format='onnx' veya format='engine' argümanını kullanarak herhangi bir formata dışa aktarabilirsin. Doğrudan dışa aktarılan modeller üzerinde tahmin yapabilir veya doğrulama gerçekleştirebilirsin, yani yolo predict model=yolo26n.onnx. Kullanım örnekleri, dışa aktarım tamamlandıktan sonra modelin için gösterilir. Modeller ayrıca herhangi bir yerel kurulum gerektirmeden Ultralytics Platform üzerinden doğrudan tarayıcıdan da dışa aktarılabilir.

nms=None, harici NMS için varsayılan olarak ham çıktıları kullanır. Mevcut bir NMS'siz başlığı seçmek için nms=False değerini ayarla; desteklenmeyen formatlar yerel çıktı yollarına geri döner. Yukarıdaki nms girdileri, NMS'yi nms=True ile gömebilen formatları tanımlar.

export YOLO_AUTOINSTALL=False

Niceleme Seçenekleri#

Dışa aktarma hassasiyetini istemek için quantize argümanını kullan. Metin değerleri büyük/küçük harf duyarsızdır ve Ultralytics, kabul edilen takma adları dışa aktarmadan önce standartlaştırır:

Eski half=True ve int8=True bayrakları, kullanım dışı kalma uyarılarıyla hala kabul edilmekte ve quantize=16 ile quantize=8 değerlerine yönlendirilmektedir.

Her dışa aktarma formatı her hassasiyeti desteklemez. Açık quantize istekleri ya bu hassasiyeti üretir ya da dışa aktarmadan önce başarısız olur:

INT8 ve W8A16 dışa aktarımları için, hedef entegrasyon varsayılan veya otomatik etkinleştirilen bir davranış belgelemediği sürece data ile data="coco8.yaml" gibi temsili kalibrasyon verileri sağla. LiteRT "w8a32" (dinamik INT8) şeması kalibrasyon verisi gerektirmez.

Nice Duyarlı Eğitimi#

Yukarıdaki INT8 dışa aktarımları, eğitim sonrası nicemlemedir (PTQ): aralıklar data üzerinde tek bir kalibrasyon geçişiyle gözlemlenir. Nicemleme farkındalıklı eğitim (QAT) ise bunun yerine, döngü içinde sahte nicemleme ile ince ayar yaparak INT8'e tolerans gösteren ağırlıkları öğrenir; bu da yalnızca kalibrasyonun kaybettiği doğruluğu geri kazandırır. Önceden eğitilmiş bir kontrol noktasında ince ayar yapmak için quantize=8 parametresini train değerine iletin ve ardından her zamanki gibi dışa aktarın:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(
    data="coco.yaml",
    quantize=8,
    epochs=5,
    batch=64,
    optimizer="AdamW",
    lr0=0.00001,
    lrf=0.1,
    warmup_epochs=0.5,
    cos_lr=True,
    mosaic=0.0,
)
model.export(format="engine", quantize=8)  # ranges travel with the checkpoint, no calibration data needed

Önceden eğitilmiş bir kontrol noktasına ince ayar yaparken küçük bir öğrenme hızı kullan. QAT başlangıçta doğruluğu azaltabilir ve bunun eğitim sonrası kuantamaya göre avantajı modele, veri setine ve eğitim bütçesine bağlıdır. Dışa aktarılan modeli hem orijinal kontrol noktasına hem de eğitim sonrası kuantalanmış bir dışa aktarıma karşı doğrula; eğitim sırasındaki sahte kuantalama skorları dağıtım doğruluğunu belirlemez.

QAT'nin ne kadar değerli olduğu, dışa aktarma arka ucunun kendi kalibrasyonunun modeli ne kadar iyi yönettiğine bağlıdır. Aşağıdaki değerler, imgsz=640 ve 1 yığın boyutunda TensorRT 10.16 motorlarıyla ölçülen COCO val2017 üzerindeki mAP50-95 değerleridir; burada her QAT kontrol noktası epochs=20 patience=3 ile eğitilmiştir:

QAT, aralık boyunca FP32'ye kıyasla 0,008 ila 0,017 mAP50-95 maliyet getirirken, eğitim sonrası nicemleme yolo26n üzerinde 0,010 ve daha büyük modellerde 0,038 ila 0,057 maliyet getirir. Dolayısıyla QAT, kalibrasyonun zaten iyi çalıştığı en küçük modelde neredeyse hiçbir şey kazandırmazken, geri kalanında 0,030 ila 0,044 kazandırır. Farklı bir veri kümesinde, dışa aktarma formatında veya TensorRT sürümünde farklı rakamlar bekleyin ve kendiniz ölçün.

QAT modelleri compile=False gerektirir; ModelOpt'un kuantalanmış modülleri torch.compile desteklemez.

INT8 doğruluk kaybını sınırlamak amacıyla kafanın nihai çıktı konvolüsyonları bilerek float türünde bırakılır; TensorRT, kuantize edilmemiş katmanları için FP16 karma duyarlılığı etkinleştirir. QAT, ilk kullanımda otomatik olarak yüklenen NVIDIA TensorRT Model Optimizer aracılığıyla çalışır ve elde edilen kontrol noktasının yüklenmesi için NVIDIA TensorRT Model Optimizer gereklidir. Bu aralıklar kontrol noktasıyla birlikte taşınır ve onnx ile engine dışarı aktarımları bunları Q/DQ düğümleri olarak yayar; diğer biçimler bunun yerine kalibrasyonu okur ve bir QAT kontrol noktasını reddeder.

Sırada Ne Var?#

Dışa aktarılan modelin nasıl çalıştırılacağını öğrenmek için tam entegrasyon listesi üzerinde bulunan ONNX, TensorRT, CoreML ve daha fazlası arasından dağıtım hedefinin entegrasyon kılavuzunu bul.

SSS#