Link to this sectionIntel OpenVINO Dışa Aktarımı#

In this guide, we cover exporting YOLO26 models to the OpenVINO format, which can provide up to 3x CPU speedup, as well as accelerating YOLO inference on Intel GPU and NPU hardware.

Open Visual Inference & Neural Network Optimization toolkit ifadesinin kısaltması olan OpenVINO, yapay zeka çıkarım modellerini optimize etmek ve dağıtmak için kullanılan kapsamlı bir araç setidir. Adı Visual (Görsel) içermesine rağmen, OpenVINO dil, ses, zaman serileri vb. gibi çeşitli ek görevleri de destekler.

Link to this sectionKullanım Örnekleri#

OpenVINO formatı Export, Predict ve Validate modlarını destekler. Modelini dışa aktar ve ardından çıkarım çalıştırmak veya Intel CPU, entegre/ayrık GPU ya da NPU üzerinde doğruluğunu test etmek için dışa aktarılan modeli yükle.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to OpenVINO format
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionDışa Aktarma Argümanları#

Dışa aktarma süreci hakkında daha fazla detay için Ultralytics dışa aktarma belgeleri sayfasına göz at.

Link to this sectionOpenVINO Avantajları#

1. Performans: OpenVINO, Intel CPU'ların, entegre ve ayrık GPU'ların ve FPGA'lerin gücünü kullanarak yüksek performanslı çıkarım sunar.
2. Heterojen Yürütme Desteği: OpenVINO, bir kez yazıp desteklenen herhangi bir Intel donanımında (CPU, GPU, FPGA, VPU vb.) dağıtmak için bir API sağlar.
3. Model Optimizer: OpenVINO provides a Model Optimizer that imports, converts, and optimizes models from popular deep learning frameworks such as PyTorch, TensorFlow, TensorFlow Lite, Keras, ONNX, PaddlePaddle, and Caffe.
4. Kullanım Kolaylığı: Araç seti, araç setinin farklı yönlerini öğreten geniş bir öğretici not defteri koleksiyonuyla (YOLO26 optimizasyonu dahil) birlikte gelir.

Link to this sectionOpenVINO Dışa Aktarma Yapısı#

Bir modeli OpenVINO formatına aktardığında, aşağıdakileri içeren bir dizin oluşur:

1. XML dosyası: Ağ topolojisini tanımlar.
2. BIN dosyası: Ağırlıklar ve sapma (bias) ikili verilerini içerir.
3. Eşleme dosyası: Orijinal model çıktı tensörlerinin OpenVINO tensör isimlerine eşlemesini tutar.

Bu dosyaları OpenVINO Inference Engine ile çıkarım yapmak için kullanabilirsin.

Link to this sectionDağıtımda OpenVINO Dışa Aktarımını Kullanma#

Modelin OpenVINO formatına başarıyla aktarıldıktan sonra, çıkarım çalıştırmak için iki temel seçeneğin var:

1. Üst seviye bir API sağlayan ve OpenVINO Runtime'ı kapsayan ultralytics paketini kullan.

2. Çıkarım davranışı üzerinde daha gelişmiş veya özelleştirilmiş kontrol için yerel openvino paketini kullan.

Link to this sectionUltralytics ile Çıkarım#

Ultralytics paketi, predict metodunu kullanarak dışa aktarılan OpenVINO modeli ile kolayca çıkarım yapmanı sağlar. Ayrıca device bağımsız değişkenini kullanarak hedef cihazı (örneğin intel:gpu, intel:npu, intel:cpu) belirtebilirsin.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

Bu yaklaşım, hızlı prototipleme veya çıkarım hattı üzerinde tam kontrole ihtiyaç duymadığın dağıtımlar için idealdir.

Link to this sectionOpenVINO Runtime ile Çıkarım#

OpenVINO Runtime, tüm desteklenen Intel donanımlarında çıkarım için birleşik bir API sağlar. Ayrıca Intel donanımları arasında yük dengeleme ve eşzamansız yürütme gibi gelişmiş yetenekler sunar. Çıkarım çalıştırma hakkında daha fazla bilgi için YOLO26 not defterlerine başvur.

Unutma, modeli Runtime ile doğru şekilde kurmak ve kullanmak için XML ve BIN dosyalarının yanı sıra giriş boyutu, normalleştirme için ölçek faktörü vb. gibi uygulamaya özel ayarlara ihtiyacın olacak.

Dağıtım uygulamanda genellikle şu adımları izlemen gerekir:

1. core = Core() oluşturarak OpenVINO'yu başlat.
2. core.read_model() metodunu kullanarak modeli yükle.
3. core.compile_model() fonksiyonunu kullanarak modeli derle.
4. Girdiyi hazırla (görüntü, metin, ses vb.).
5. compiled_model(input_data) kullanarak çıkarımı çalıştır.

Daha detaylı adımlar ve kod parçacıkları için OpenVINO belgelerine veya API eğitimine başvur.

Link to this sectionOpenVINO YOLO26 Kıyaslamaları#

Ultralytics ekibi, OpenVINO ile uyumlu farklı Intel cihazlarındaki hız ve doğruluğu değerlendirerek, çeşitli model formatlarında ve precision seviyelerinde YOLO26'yı kıyasladı.

Link to this sectionIntel® Core™ Ultra#

Intel® Core™ Ultra™ serisi, oyunculardan içerik üreticilerine ve yapay zekadan yararlanan profesyonellere kadar modern kullanıcıların değişen taleplerini karşılamak üzere tasarlanmış, yüksek performanslı bilgi işlemede yeni bir standarttır. Bu yeni nesil seri, geleneksel bir CPU serisinden fazlasıdır; güçlü CPU çekirdeklerini, entegre yüksek performanslı GPU yeteneklerini ve özel bir Neural Processing Unit (NPU) birimini tek bir çipte birleştirerek, çeşitli ve yoğun bilgi işlem iş yükleri için bütünleşik bir çözüm sunar.

Intel® Core Ultra™ mimarisinin merkezinde, geleneksel işleme görevleri, GPU hızlandırmalı iş yükleri ve yapay zeka destekli işlemler genelinde olağanüstü performans sağlayan hibrit bir tasarım bulunur. NPU'nun dahil edilmesi cihaz içi yapay zeka çıkarımını iyileştirerek, çok çeşitli uygulamalarda daha hızlı ve daha verimli makine öğrenimi ve veri işleme sağlar.

Core Ultra™ ailesi, enerji verimliliği sağlayan tasarımlardan, ciddi bilgi işlem gücü gerektiren dizüstü bilgisayarlar ve kompakt form faktörleri için ideal olan "H" tanımlamalı yüksek güçlü varyantlara kadar farklı performans ihtiyaçlarına göre uyarlanmış çeşitli modeller içerir. Seri genelinde kullanıcılar, CPU, GPU ve NPU entegrasyonunun sinerjisinden yararlanarak dikkate değer bir verimlilik, duyarlılık ve çoklu görev yeteneği elde eder.

Intel'in süregelen inovasyonunun bir parçası olarak Core Ultra™ serisi, geleceğe hazır bilişim için yeni bir standart belirliyor. Mevcut birçok model ve ufuktaki daha yenileriyle bu seri, Intel'in yeni nesil akıllı ve yapay zeka destekli cihazlar için en ileri çözümleri sunma taahhüdünün altını çiziyor.

Aşağıdaki kıyaslamalar FP32, FP16 ve INT8 hassasiyetinde Intel® Core™ Ultra™ X7 358H, Intel® Core™ Ultra™ 7 258V ve Intel® Core™ Ultra™ 7 155H üzerinde çalıştırılmıştır.

Link to this sectionIntel® Core™ Ultra™ X7 358H#

Kıyaslamalar

Entegre Intel® Arc™ GPUIntel® Panther Lake CPUEntegre Intel® AI Boost NPU

Detaylı Kıyaslama Sonuçları

Model	Format	Hassasiyet	Durum	Boyut (MB)	metrics/mAP50-95(B)	Çıkarım süresi (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	25.18
YOLO26n	OpenVINO	FP32	✅	9.6	0.4763	2.67
YOLO26n	OpenVINO	FP16	✅	5.1	0.4763	2.64
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	2.73
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	50.09
YOLO26s	OpenVINO	FP32	✅	36.7	0.5615	3.57
YOLO26s	OpenVINO	FP16	✅	18.6	0.5615	3.55
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	3.09
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	135.1
YOLO26m	OpenVINO	FP32	✅	78.3	0.6168	5.64
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	5.85
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	4.14
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	169.75
YOLO26l	OpenVINO	FP32	✅	95.3	0.6206	8.14
YOLO26l	OpenVINO	FP16	✅	48.1	0.6206	8.18
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	4.67
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	407.56
YOLO26x	OpenVINO	FP32	✅	213.2	0.6569	13.11
YOLO26x	OpenVINO	FP16	✅	107.1	0.6569	13.15
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	9.24

Link to this sectionIntel® Core™ Ultra™ 7 258V#

Kıyaslamalar

Entegre Intel® Arc™ GPUIntel® Lunar Lake CPUEntegre Intel® AI Boost NPU

Detaylı Kıyaslama Sonuçları

Model	Format	Hassasiyet	Durum	Boyut (MB)	metrics/mAP50-95(B)	Çıkarım süresi (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	31.43
YOLO26n	OpenVINO	FP32	✅	9.6	0.4762	3.57
YOLO26n	OpenVINO	FP16	✅	5.1	0.4762	3.53
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	3.65
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	60.4
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	5.02
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	5.01
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	4.31
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	173.31
YOLO26m	OpenVINO	FP32	✅	78.3	0.6191	9.48
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	9.6
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	6.03
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6173	224.52
YOLO26l	OpenVINO	FP32	✅	95.3	0.3725	11.88
YOLO26l	OpenVINO	FP16	✅	48.1	0.6201	12.0
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	8.47
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	595.72
YOLO26x	OpenVINO	FP32	✅	213.2	0.6567	20.26
YOLO26x	OpenVINO	FP16	✅	107.1	0.6454	20.25
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	14.77

Link to this sectionIntel® Core™ Ultra™ 7 155H#

Kıyaslamalar

Entegre Intel® Arc™ GPUIntel® Meteor Lake CPU

Detaylı Kıyaslama Sonuçları

Model	Format	Hassasiyet	Durum	Boyut (MB)	metrics/mAP50-95(B)	Çıkarım süresi (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	38.77
YOLO26n	OpenVINO	FP32	✅	9.6	0.4774	9.87
YOLO26n	OpenVINO	FP16	✅	5.1	0.4774	9.84
YOLO26n	OpenVINO	INT8	✅	3.2	0.4705	5.86
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	69.54
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	17.29
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	17.06
YOLO26s	OpenVINO	INT8	✅	10.0	0.5452	10.33
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	192.22
YOLO26m	OpenVINO	FP32	✅	78.3	0.6187	34.64
YOLO26m	OpenVINO	FP16	✅	39.5	0.6187	34.75
YOLO26m	OpenVINO	INT8	✅	20.5	0.6073	15.99
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	245.62
YOLO26l	OpenVINO	FP32	✅	95.3	0.6202	43.7
YOLO26l	OpenVINO	FP16	✅	48.1	0.6202	44.65
YOLO26l	OpenVINO	INT8	✅	25.2	0.6048	20.31
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	513.06
YOLO26x	OpenVINO	FP32	✅	213.2	0.6544	80.19
YOLO26x	OpenVINO	FP16	✅	107.1	0.6544	79.83
YOLO26x	OpenVINO	INT8	✅	54.8	0.6393	35.16

Link to this sectionSonuçlarımızı Yeniden Oluştur#

Yukarıdaki Ultralytics kıyaslamalarını tüm dışa aktarma formatlarında yeniden oluşturmak için bu kodu çalıştır:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

Link to this sectionSonuç#

Kıyaslama sonuçları, YOLO26 modelini OpenVINO formatına dışa aktarmanın faydalarını açıkça göstermektedir. Farklı modeller ve donanım platformlarında, OpenVINO formatı, benzer doğruluğu korurken çıkarım hızı açısından diğer formatlardan sürekli olarak daha iyi performans gösterir.

Kıyaslamalar, derin öğrenme modellerini dağıtmak için bir araç olarak OpenVINO'nun etkinliğinin altını çizmektedir. Modelleri OpenVINO formatına dönüştürerek, önemli performans iyileştirmeleri elde edebilir ve bu modelleri gerçek dünya uygulamalarında dağıtmayı kolaylaştırabilirsin.

OpenVINO kullanımıyla ilgili daha ayrıntılı bilgi ve talimatlar için resmi OpenVINO dokümantasyonuna başvur.

Link to this sectionSSS#

Link to this sectionYOLO26 modellerini OpenVINO formatına nasıl dışa aktarırım?#

YOLO26 modellerini OpenVINO formatına dışa aktarmak CPU hızını önemli ölçüde artırabilir ve Intel donanımı üzerinde GPU ve NPU hızlandırmalarını etkinleştirebilir. Dışa aktarmak için aşağıda gösterildiği gibi Python veya CLI kullanabilirsin:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

Daha fazla bilgi için dışa aktarma formatları dokümantasyonuna bak.

Link to this sectionYOLO26 modelleriyle OpenVINO kullanmanın faydaları nelerdir?#

Intel'in OpenVINO araç setini YOLO26 modelleriyle kullanmak çeşitli avantajlar sunar:

1. Performans: CPU çıkarımında 3 kata kadar hızlanma elde et ve hızlandırma için Intel GPU'larından ve NPU'larından yararlan.
2. Model Optimizer: PyTorch, TensorFlow ve ONNX gibi popüler çerçevelerden modelleri dönüştür, optimize et ve çalıştır.
3. Kullanım Kolaylığı: YOLO26 dahil olmak üzere kullanıcıların başlamasına yardımcı olacak geniş bir eğitim not defteri koleksiyonu mevcuttur.
4. Heterojen Yürütme: Modelleri birleşik bir API ile çeşitli Intel donanımları üzerinde çalıştır.

Ayrıntılı performans karşılaştırmaları için kıyaslamalar bölümümüzü ziyaret et.

Link to this sectionOpenVINO'ya dışa aktarılmış bir YOLO26 modeli kullanarak nasıl çıkarım çalıştırabilirim?#

Bir YOLO26n modelini OpenVINO formatına aktardıktan sonra, Python veya CLI kullanarak çıkarım çalıştırabilirsin:

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

Daha fazla ayrıntı için tahmin modu dokümantasyonumuza bak.

Link to this sectionOpenVINO dışa aktarımı için neden diğer modeller yerine Ultralytics YOLO26'yı seçmeliyim?#

Ultralytics YOLO26, yüksek doğruluk ve hız ile gerçek zamanlı nesne tespiti için optimize edilmiştir. Özellikle OpenVINO ile birleştirildiğinde, YOLO26 şunları sağlar:

• Intel CPU'larında 3 kata kadar hızlanma
• Intel GPU ve NPU'larında sorunsuz dağıtım
• Çeşitli dışa aktarma formatlarında tutarlı ve karşılaştırılabilir doğruluk

Derinlemesine performans analizi için farklı donanımlar üzerindeki YOLO26 kıyaslamalarımıza göz at.

Link to this sectionYOLO26 modellerini PyTorch, ONNX ve OpenVINO gibi farklı formatlarda kıyaslayabilir miyim?#

Evet, YOLO26 modellerini PyTorch, TorchScript, ONNX ve OpenVINO dahil olmak üzere çeşitli formatlarda kıyaslayabilirsin. Seçtiğin veri setinde kıyaslamaları çalıştırmak için aşağıdaki kod parçacığını kullan:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

Ayrıntılı kıyaslama sonuçları için kıyaslamalar bölümümüze ve dışa aktarma formatları dokümantasyonuna bak.