Link to this sectionIntel OpenVINO Dışa Aktarma#

Bu rehberde, YOLO26 modellerini OpenVINO formatına nasıl aktaracağını ele alıyoruz; bu format CPU tarafında 3 kata kadar hız artışı sağlayabilir ve Intel GPU ile NPU donanımlarında YOLO çıkarımını hızlandırabilir.

Açılımı Open Visual Inference & Neural Network Optimization toolkit olan OpenVINO, AI çıkarım modellerini optimize etmek ve dağıtmak için kapsamlı bir araç setidir. İsmi Visual kelimesini içermesine rağmen, OpenVINO dil, ses, zaman serileri vb. dahil olmak üzere çeşitli ek görevleri de destekler.

Link to this sectionKullanım Örnekleri#

OpenVINO formatı Export, Predict ve Validate modlarını destekler. Modelini dışa aktar, ardından Intel CPU, tümleşik/ayrık GPU veya NPU üzerinde çıkarım çalıştırmak ya da doğruluk payını doğrulamak için dışa aktarılan modeli yükle.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to OpenVINO format
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionDışa Aktarma Argümanları#

Dışa aktarma süreci hakkında daha fazla ayrıntı için dışa aktarma hakkındaki Ultralytics dokümantasyon sayfasına git.

Link to this sectionOpenVINO'nun Avantajları#

1. Performans: OpenVINO, Intel CPU'ların, tümleşik ve ayrık GPU'ların ve FPGA'lerin gücünü kullanarak yüksek performanslı çıkarım sunar.
2. Heterojen Yürütme Desteği: OpenVINO, bir kez yazıp tüm desteklenen Intel donanımlarında (CPU, GPU, FPGA, VPU, vb.) dağıtabilmen için bir API sağlar.
3. Model Optimizer: OpenVINO provides a Model Optimizer that imports, converts, and optimizes models from popular deep learning frameworks such as PyTorch, TensorFlow, TensorFlow Lite, Keras, ONNX, PaddlePaddle, and Caffe.
4. Kullanım Kolaylığı: Araç kiti, farklı özelliklerini öğreten geniş bir eğitici not defteri koleksiyonuyla ( YOLO26 optimizasyonu dahil) birlikte gelir.

Link to this sectionOpenVINO Dışa Aktarma Yapısı#

Bir modeli OpenVINO formatına dışa aktardığında, aşağıdakileri içeren bir dizin oluşur:

1. XML dosyası: Ağ topolojisini açıklar.
2. BIN dosyası: Ağırlıklar ve yanlılık (bias) ikili verilerini içerir.
3. Eşleme dosyası: Orijinal model çıktı tensörlerinin OpenVINO tensör isimleriyle eşlemesini tutar.

Bu dosyaları OpenVINO Çıkarım Motoru ile çıkarım çalıştırmak için kullanabilirsin.

Link to this sectionDağıtımda OpenVINO Dışa Aktarma Kullanımı#

Modelin OpenVINO formatına başarıyla dışa aktarıldıktan sonra, çıkarım çalıştırmak için iki temel seçeneğin vardır:

1. Üst düzey bir API sağlayan ve OpenVINO Runtime'ı sarmalayan ultralytics paketini kullan.

2. Çıkarım davranışı üzerinde daha gelişmiş veya özelleştirilmiş kontrol için yerel openvino paketini kullan.

Link to this sectionUltralytics ile Çıkarım#

Ultralytics paketi, predict metodu aracılığıyla dışa aktarılan OpenVINO modelini kullanarak kolayca çıkarım çalıştırmana olanak tanır. Ayrıca device argümanını kullanarak hedef cihazı (örneğin intel:gpu, intel:npu, intel:cpu) belirleyebilirsin.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

Bu yaklaşım, çıkarım hattı üzerinde tam kontrole ihtiyaç duymadığın hızlı prototipleme veya dağıtım senaryoları için idealdir.

Link to this sectionOpenVINO Runtime ile Çıkarım#

OpenVINO Runtime, tüm desteklenen Intel donanımlarında çıkarım için birleşik bir API sağlar. Ayrıca Intel donanımları arasında yük dengeleme ve eşzamansız yürütme gibi gelişmiş yetenekler sunar. Çıkarım çalıştırma hakkında daha fazla bilgi için YOLO26 not defterlerine bakabilirsin.

Unutma, modeli Runtime ile doğru şekilde kurmak ve kullanmak için XML ve BIN dosyalarının yanı sıra giriş boyutu, normalleştirme için ölçeklendirme faktörü vb. gibi uygulamaya özel ayarlar da gerekecektir.

Dağıtım uygulamanızda genellikle şu adımları izlersin:

1. core = Core() oluşturarak OpenVINO'yu başlat.
2. core.read_model() metodunu kullanarak modeli yükle.
3. core.compile_model() fonksiyonunu kullanarak modeli derle.
4. Girdiyi (görüntü, metin, ses vb.) hazırla.
5. compiled_model(input_data) kullanarak çıkarımı çalıştır.

Daha ayrıntılı adımlar ve kod parçacıkları için OpenVINO belgelerine veya API eğitimine göz at.

Link to this sectionOpenVINO YOLO26 Kıyaslamaları#

Ultralytics ekibi, OpenVINO ile uyumlu farklı Intel cihazlarında hız ve doğruluk değerlendirmesi yaparak, çeşitli model formatlarında ve hassasiyet seviyelerinde YOLO26 kıyaslamalarını gerçekleştirdi.

Link to this sectionIntel® Core™ Ultra#

Intel® Core™ Ultra™ serisi, oyuncular ve içerik üreticilerinden yapay zekadan yararlanan profesyonellere kadar modern kullanıcıların gelişen taleplerini karşılamak üzere tasarlanmış, yüksek performanslı bilgi işlemede yeni bir kıyaslamayı temsil eder. Bu yeni nesil seri, geleneksel bir CPU serisinden fazlasıdır; güçlü CPU çekirdeklerini, tümleşik yüksek performanslı GPU yeteneklerini ve özel bir Sinir İşleme Birimini (NPU) tek bir çip üzerinde birleştirerek çeşitli ve yoğun iş yükleri için birleşik bir çözüm sunar.

Intel® Core Ultra™ mimarisinin kalbinde, geleneksel işleme görevleri, GPU hızlandırmalı iş yükleri ve yapay zeka destekli operasyonlarda olağanüstü performans sağlayan hibrit bir tasarım yatar. NPU'nun dahil edilmesi, cihaz üzerinde yapay zeka çıkarımını iyileştirerek, geniş bir uygulama yelpazesinde daha hızlı ve verimli makine öğrenimi ve veri işleme imkanı sağlar.

Core Ultra™ ailesi, enerji verimli tasarımlardan, ciddi bilgi işlem gücü gerektiren dizüstü bilgisayarlar ve kompakt form faktörleri için ideal olan "H" harfiyle işaretlenmiş yüksek güç seçeneklerine kadar farklı performans ihtiyaçlarına göre uyarlanmış çeşitli modelleri içerir. Seri genelinde kullanıcılar, CPU, GPU ve NPU entegrasyonunun sinerjisinden yararlanarak dikkat çekici verimlilik, yanıt süresi ve çoklu görev yeteneklerine sahip olurlar.

Intel'in süregelen inovasyonunun bir parçası olarak Core Ultra™ serisi, geleceğe hazır bilgi işlem için yeni bir standart belirler. Mevcut çok sayıda model ve ufukta görünen daha fazlasıyla bu seri, Intel'in akıllı ve yapay zeka destekli cihazların yeni nesli için en gelişmiş çözümleri sunma taahhüdünü vurgular.

Aşağıdaki kıyaslamalar Intel® Core™ Ultra™ X7 358H, Intel® Core™ Ultra™ 7 258V ve Intel® Core™ Ultra™ 7 155H üzerinde FP32, FP16 ve INT8 hassasiyetlerinde çalıştırılmıştır.

Link to this sectionIntel® Core™ Ultra™ X7 358H#

Kıyaslamalar

Tümleşik Intel® Arc™ GPUIntel® Panther Lake CPUEntegre Intel® AI Boost NPU

Detaylı Kıyaslama Sonuçları

Model	Format	Precision	Durum	Boyut (MB)	metrics/mAP50-95(B)	Çıkarım süresi (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	25.18
YOLO26n	OpenVINO	FP32	✅	9.6	0.4763	2.67
YOLO26n	OpenVINO	FP16	✅	5.1	0.4763	2.64
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	2.73
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	50.09
YOLO26s	OpenVINO	FP32	✅	36.7	0.5615	3.57
YOLO26s	OpenVINO	FP16	✅	18.6	0.5615	3.55
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	3.09
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	135.1
YOLO26m	OpenVINO	FP32	✅	78.3	0.6168	5.64
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	5.85
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	4.14
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	169.75
YOLO26l	OpenVINO	FP32	✅	95.3	0.6206	8.14
YOLO26l	OpenVINO	FP16	✅	48.1	0.6206	8.18
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	4.67
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	407.56
YOLO26x	OpenVINO	FP32	✅	213.2	0.6569	13.11
YOLO26x	OpenVINO	FP16	✅	107.1	0.6569	13.15
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	9.24

Link to this sectionIntel® Core™ Ultra™ 7 258V#

Kıyaslamalar

Tümleşik Intel® Arc™ GPUIntel® Lunar Lake CPUEntegre Intel® AI Boost NPU

Detaylı Kıyaslama Sonuçları

Model	Format	Precision	Durum	Boyut (MB)	metrics/mAP50-95(B)	Çıkarım süresi (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	31.43
YOLO26n	OpenVINO	FP32	✅	9.6	0.4762	3.57
YOLO26n	OpenVINO	FP16	✅	5.1	0.4762	3.53
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	3.65
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	60.4
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	5.02
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	5.01
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	4.31
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	173.31
YOLO26m	OpenVINO	FP32	✅	78.3	0.6191	9.48
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	9.6
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	6.03
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6173	224.52
YOLO26l	OpenVINO	FP32	✅	95.3	0.3725	11.88
YOLO26l	OpenVINO	FP16	✅	48.1	0.6201	12.0
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	8.47
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	595.72
YOLO26x	OpenVINO	FP32	✅	213.2	0.6567	20.26
YOLO26x	OpenVINO	FP16	✅	107.1	0.6454	20.25
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	14.77

Link to this sectionIntel® Core™ Ultra™ 7 155H#

Kıyaslamalar

Tümleşik Intel® Arc™ GPUIntel® Meteor Lake CPU

Detaylı Kıyaslama Sonuçları

Model	Format	Precision	Durum	Boyut (MB)	metrics/mAP50-95(B)	Çıkarım süresi (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	38.77
YOLO26n	OpenVINO	FP32	✅	9.6	0.4774	9.87
YOLO26n	OpenVINO	FP16	✅	5.1	0.4774	9.84
YOLO26n	OpenVINO	INT8	✅	3.2	0.4705	5.86
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	69.54
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	17.29
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	17.06
YOLO26s	OpenVINO	INT8	✅	10.0	0.5452	10.33
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	192.22
YOLO26m	OpenVINO	FP32	✅	78.3	0.6187	34.64
YOLO26m	OpenVINO	FP16	✅	39.5	0.6187	34.75
YOLO26m	OpenVINO	INT8	✅	20.5	0.6073	15.99
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	245.62
YOLO26l	OpenVINO	FP32	✅	95.3	0.6202	43.7
YOLO26l	OpenVINO	FP16	✅	48.1	0.6202	44.65
YOLO26l	OpenVINO	INT8	✅	25.2	0.6048	20.31
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	513.06
YOLO26x	OpenVINO	FP32	✅	213.2	0.6544	80.19
YOLO26x	OpenVINO	FP16	✅	107.1	0.6544	79.83
YOLO26x	OpenVINO	INT8	✅	54.8	0.6393	35.16

Link to this sectionSonuçlarımızı Yeniden Oluştur#

Yukarıdaki Ultralytics kıyaslamalarını tüm dışa aktarma formatlarında yeniden oluşturmak için bu kodu çalıştır:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

Link to this sectionSonuç#

Kıyaslama sonuçları, YOLO26 modelini OpenVINO formatına aktarmanın faydalarını açıkça göstermektedir. Farklı modeller ve donanım platformlarında, OpenVINO formatı, benzer doğruluğu korurken çıkarım hızı açısından diğer formatlardan sürekli olarak daha iyi performans gösterir.

Kıyaslamalar, OpenVINO'nun derin öğrenme modellerini dağıtmak için bir araç olarak etkinliğinin altını çizmektedir. Geliştiriciler, modelleri OpenVINO formatına dönüştürerek önemli performans iyileştirmeleri elde edebilir ve bu modelleri gerçek dünya uygulamalarında dağıtmayı kolaylaştırabilirler.

OpenVINO kullanımı hakkında daha ayrıntılı bilgi ve talimatlar için resmi OpenVINO belgelerine bak.

Link to this sectionSSS#

Link to this sectionYOLO26 modellerini OpenVINO formatına nasıl aktarırım?#

YOLO26 modellerini OpenVINO formatına aktarmak, CPU hızını önemli ölçüde artırabilir ve Intel donanımında GPU ve NPU hızlandırmalarını etkinleştirebilir. Aktarmak için aşağıda gösterildiği gibi Python veya CLI kullanabilirsin:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

Daha fazla bilgi için dışa aktarma formatları belgelerine bak.

Link to this sectionOpenVINO'yu YOLO26 modelleriyle kullanmanın faydaları nelerdir?#

Intel'in OpenVINO araç setini YOLO26 modelleriyle kullanmak çeşitli avantajlar sunar:

1. Performans: CPU çıkarımında 3 kata kadar hız artışı elde et ve hızlandırma için Intel GPU'larından ve NPU'larından yararlan.
2. Model Optimizer: PyTorch, TensorFlow ve ONNX gibi popüler çerçevelerden modelleri dönüştür, optimize et ve yürüt.
3. Kullanım Kolaylığı: YOLO26 dahil olmak üzere kullanıcıların başlamasına yardımcı olacak çok sayıda eğitici not defteri koleksiyonu mevcuttur.
4. Heterojen Yürütme: Modelleri birleşik bir API ile çeşitli Intel donanımlarında dağıt.

Ayrıntılı performans karşılaştırmaları için kıyaslamalar bölümümüzü ziyaret et.

Link to this sectionOpenVINO'ya aktarılmış bir YOLO26 modeli kullanarak nasıl çıkarım çalıştırabilirim?#

Bir YOLO26n modelini OpenVINO formatına aktardıktan sonra, Python veya CLI kullanarak çıkarım çalıştırabilirsin:

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

Daha fazla ayrıntı için tahmin modu belgelerimize bak.

Link to this sectionNeden OpenVINO dışa aktarımı için diğer modeller yerine Ultralytics YOLO26'yı seçmeliyim?#

Ultralytics YOLO26, yüksek doğruluk ve hız ile gerçek zamanlı nesne tespiti için optimize edilmiştir. Özellikle OpenVINO ile birleştirildiğinde, YOLO26 şunları sağlar:

• Intel CPU'larında 3 kata kadar hız artışı
• Intel GPU ve NPU'larında sorunsuz dağıtım
• Çeşitli dışa aktarma formatlarında tutarlı ve karşılaştırılabilir doğruluk

Derinlemesine performans analizi için farklı donanımlardaki ayrıntılı YOLO26 kıyaslamalarımıza göz at.

Link to this sectionYOLO26 modellerini PyTorch, ONNX ve OpenVINO gibi farklı formatlarda kıyaslayabilir miyim?#

Evet, YOLO26 modellerini PyTorch, TorchScript, ONNX ve OpenVINO dahil olmak üzere çeşitli formatlarda kıyaslayabilirsin. Seçtiğin veri kümesinde kıyaslamaları çalıştırmak için aşağıdaki kod parçacığını kullan:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

Ayrıntılı kıyaslama sonuçları için kıyaslamalar bölümümüze ve dışa aktarma formatları belgelerine bak.