YOLOv8 Modelinden TFLite Edge TPU Formatına Aktarmayı Öğrenin

Bilgisayarla görme modellerini mobil veya gömülü sistemler gibi sınırlı hesaplama gücüne sahip cihazlara dağıtmak zor olabilir. Daha hızlı performans için optimize edilmiş bir model formatı kullanmak süreci basitleştirir. TensorFlow Lite Edge TPU veya TFLite Edge TPU model formatı, sinir ağları için hızlı performans sunarken minimum güç kullanmak üzere tasarlanmıştır.

TFLite Edge TPU formatına dışa aktarma özelliği, aşağıdakileri optimize etmenize olanak tanır Ultralytics YOLOv8 yüksek hızlı ve düşük güçlü çıkarım için modeller. Bu kılavuzda, modellerinizi TFLite Edge TPU formatına dönüştürme konusunda size yol göstererek modellerinizin çeşitli mobil ve gömülü cihazlarda iyi performans göstermesini kolaylaştıracağız.

Neden TFLite Edge'e Aktarmalısınız TPU?

Modellerin TensorFlow Edge TPU adresine aktarılması, makine öğrenimi görevlerini hızlı ve verimli hale getirir. Bu teknoloji sınırlı güce, bilgi işlem kaynaklarına ve bağlantıya sahip uygulamalara uygundur. Edge TPU Google'ın bir donanım hızlandırıcısıdır. Edge cihazlarda TensorFlow Lite modellerini hızlandırır. Aşağıdaki resim, ilgili sürecin bir örneğini göstermektedir.

Edge TPU nicelleştirilmiş modellerle çalışır. Niceleme, çok fazla doğruluk kaybetmeden modelleri daha küçük ve daha hızlı hale getirir. Uç bilişimin sınırlı kaynakları için idealdir, gecikmeyi azaltarak ve bulut bağımlılığı olmadan yerel olarak hızlı veri işlemeye izin vererek uygulamaların hızlı yanıt vermesini sağlar. Yerel işleme aynı zamanda uzak bir sunucuya gönderilmediği için kullanıcı verilerini gizli ve güvenli tutar.

TFLite Edge'in Temel Özellikleri TPU

İşte TFLite Edge TPU 'u geliştiriciler için harika bir model formatı seçimi yapan temel özellikler:

• Edge Cihazlarda Optimize Edilmiş Performans: TFLite Edge TPU niceleme, model optimizasyonu, donanım hızlandırma ve derleyici optimizasyonu yoluyla yüksek hızlı sinir ağı performansı elde eder. Minimalist mimarisi, daha küçük boyutuna ve maliyet verimliliğine katkıda bulunur.

• Yüksek Hesaplama Verimi: TFLite Edge TPU , yüksek hesaplama verimi elde etmek için özel donanım hızlandırması ve verimli çalışma zamanı yürütmesini birleştirir. Uç cihazlarda sıkı performans gereksinimleri olan makine öğrenimi modellerini dağıtmak için çok uygundur.

• Verimli Matris Hesaplamaları: TensorFlow Edge TPU , sinir ağı hesaplamaları için çok önemli olan matris işlemleri için optimize edilmiştir. Bu verimlilik, özellikle çok sayıda ve karmaşık matris çarpımı ve dönüşümü gerektiren makine öğrenimi modellerinde kilit öneme sahiptir.

TFLite Edge ile Dağıtım Seçenekleri TPU

YOLOv8 modellerini TFLite Edge TPU formatına nasıl aktaracağımıza geçmeden önce, TFLite Edge TPU modellerinin genellikle nerede kullanıldığını anlayalım.

TFLite Edge TPU , makine öğrenimi modelleri için aşağıdakiler de dahil olmak üzere çeşitli dağıtım seçenekleri sunar:

• Cihaz Üzerinde Dağıtım: TensorFlow Edge TPU modelleri doğrudan mobil ve gömülü cihazlara dağıtılabilir. Cihaz üzerinde dağıtım, modellerin doğrudan donanım üzerinde yürütülmesini sağlayarak bulut bağlantısı ihtiyacını ortadan kaldırır.

• Bulut TensorFlow TPU'ları ile Kenar Bilişim: Uç cihazların sınırlı işlem kapasitesine sahip olduğu senaryolarda, TensorFlow Edge TPU'ları çıkarım görevlerini TPU'larla donatılmış bulut sunucularına yükleyebilir.

• Hibrit Dağıtım: Hibrit bir yaklaşım, cihaz üzerinde ve bulut dağıtımını birleştirir ve makine öğrenimi modellerini dağıtmak için çok yönlü ve ölçeklenebilir bir çözüm sunar. Avantajları arasında hızlı yanıtlar için cihaz üzerinde işleme ve daha karmaşık hesaplamalar için bulut bilişim yer alır.

YOLOv8 Modellerini TFLite Edge'e Aktarma TPU

YOLOv8 modellerini TensorFlow Edge TPU modeline dönüştürerek model uyumluluğunu ve dağıtım esnekliğini artırabilirsiniz.

Kurulum

Gerekli paketi yüklemek için çalıştırın:

# Install the required package for YOLOv8
pip install ultralytics

Kurulum süreciyle ilgili ayrıntılı talimatlar ve en iyi uygulamalar için Ultralytics Kurulum kılavuzumuza göz atın. YOLOv8 için gerekli paketleri yüklerken herhangi bir zorlukla karşılaşırsanız, çözümler ve ipuçları için Ortak Sorunlar kılavuz umuza başvurun.

Kullanım

Kullanım talimatlarına geçmeden önce, tüm Ultralytics YOLOv8 modellerinin dışa aktarılabildiğini, ancak seçtiğiniz modelin dışa aktarma işlevini desteklediğinden burada emin olabileceğinizi belirtmek önemlidir.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TFLite Edge TPU format
model.export(format='edgetpu')  # creates 'yolov8n_full_integer_quant_edgetpu.tflite’

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO('yolov8n_full_integer_quant_edgetpu.tflite')

# Run inference
results = edgetpu_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Desteklenen dışa aktarma seçenekleri hakkında daha fazla bilgi için dağıtım seçenekleriyle ilgiliUltralytics belge sayfasını ziyaret edin.

Dışa Aktarılan YOLOv8 TFLite Edge TPU Modellerini Dağıtma

Ultralytics YOLOv8 modellerinizi TFLite Edge TPU formatına başarıyla aktardıktan sonra artık bunları dağıtabilirsiniz. Bir TFLite Edge TPU modelini çalıştırmak için birincil ve önerilen ilk adım, önceki kullanım kodu parçacığında belirtildiği gibi YOLO("model_edgetpu.tflite") yöntemini kullanmaktır.

Ancak, TFLite Edge TPU modellerinizin dağıtımına ilişkin ayrıntılı talimatlar için aşağıdaki kaynaklara göz atın:

• Coral Edge TPU ile Raspberry Pi üzerinde Ultralytics YOLOv8: Gelişmiş makine öğrenimi yetenekleri için Coral Edge TPU'ları Raspberry Pi ile nasıl entegre edeceğinizi keşfedin.

• Kod Örnekleri: Projelerinizi başlatmak için pratik TensorFlow Edge TPU dağıtım örneklerine erişin.

• Edge'de Çıkarım Çalıştır TPU ile Python: Kurulum ve kullanım yönergeleri de dahil olmak üzere Edge TPU uygulamaları için TensorFlow Lite Python API'sinin nasıl kullanılacağını keşfedin.

Özet

Bu kılavuzda, Ultralytics YOLOv8 modellerinin TFLite Edge TPU formatına nasıl aktarılacağını öğrendik. Yukarıda belirtilen adımları izleyerek, bilgisayarla görme uygulamalarınızın hızını ve gücünü artırabilirsiniz.

Kullanım hakkında daha fazla bilgi için Edge TPU resmi web sitesini ziyaret edin.

Ayrıca, diğer Ultralytics YOLOv8 entegrasyonları hakkında daha fazla bilgi için lütfen entegrasyon kılavuzu sayfamızı ziyaret edin. Orada değerli kaynaklar ve içgörüler keşfedeceksiniz.

Yorumlar