YOLO11 Modelinden TFLite Edge TPU Formatına Aktarmayı Öğrenin
Bilgisayarla görme modellerini mobil veya gömülü sistemler gibi sınırlı hesaplama gücüne sahip cihazlara dağıtmak zor olabilir. Daha hızlı performans için optimize edilmiş bir model formatı kullanmak süreci basitleştirir. TensorFlow Lite Edge TPU veya TFLite Edge TPU model formatı, sinir ağları için hızlı performans sunarken minimum güç kullanmak üzere tasarlanmıştır.
TFLite Edge TPU formatına dışa aktarma özelliği, aşağıdakileri optimize etmenize olanak tanır Ultralytics YOLO11 yüksek hızlı ve düşük güçlü çıkarım için modeller. Bu kılavuzda, modellerinizi TFLite Edge TPU formatına dönüştürme konusunda size yol göstererek modellerinizin çeşitli mobil ve gömülü cihazlarda iyi performans göstermesini kolaylaştıracağız.
Neden TFLite Edge'e Aktarmalısınız TPU?
Modelleri dışa aktarma TensorFlow Edge TPU makine öğrenimi görevlerini hızlı ve verimli hale getirir. Bu teknoloji sınırlı güce, bilgi işlem kaynaklarına ve bağlantıya sahip uygulamalara uygundur. Edge TPU , Google tarafından geliştirilen bir donanım hızlandırıcıdır. Uç cihazlarda TensorFlow Lite modellerini hızlandırır. Aşağıdaki resim, ilgili sürecin bir örneğini göstermektedir.
Edge TPU nicelleştirilmiş modellerle çalışır. Niceleme, çok fazla doğruluk kaybetmeden modelleri daha küçük ve daha hızlı hale getirir. Uç bilişimin sınırlı kaynakları için idealdir, gecikmeyi azaltarak ve bulut bağımlılığı olmadan yerel olarak hızlı veri işlemeye izin vererek uygulamaların hızlı yanıt vermesini sağlar. Yerel işleme aynı zamanda uzak bir sunucuya gönderilmediği için kullanıcı verilerini gizli ve güvenli tutar.
TFLite Edge'in Temel Özellikleri TPU
İşte TFLite Edge TPU 'u geliştiriciler için harika bir model formatı seçimi yapan temel özellikler:
-
Edge Cihazlarda Optimize Edilmiş Performans: TFLite Edge TPU niceleme, model optimizasyonu, donanım hızlandırma ve derleyici optimizasyonu yoluyla yüksek hızlı sinir ağı performansı elde eder. Minimalist mimarisi, daha küçük boyutuna ve maliyet verimliliğine katkıda bulunur.
-
Yüksek Hesaplama Verimi: TFLite Edge TPU , yüksek hesaplama verimi elde etmek için özel donanım hızlandırması ve verimli çalışma zamanı yürütmesini birleştirir. Uç cihazlarda sıkı performans gereksinimleri olan makine öğrenimi modellerini dağıtmak için çok uygundur.
-
Verimli Matris Hesaplamaları: TensorFlow Edge TPU , sinir ağı hesaplamaları için çok önemli olan matris işlemleri için optimize edilmiştir. Bu verimlilik, özellikle çok sayıda ve karmaşık matris çarpımı ve dönüşümü gerektiren makine öğrenimi modellerinde kilit öneme sahiptir.
TFLite Edge ile Dağıtım Seçenekleri TPU
YOLO11 modellerini TFLite Edge TPU formatına nasıl aktaracağımıza geçmeden önce, TFLite Edge TPU modellerinin genellikle nerede kullanıldığını anlayalım.
TFLite Edge TPU , makine öğrenimi modelleri için aşağıdakiler de dahil olmak üzere çeşitli dağıtım seçenekleri sunar:
-
Cihaz Üzerinde Dağıtım: TensorFlow Edge TPU modelleri doğrudan mobil ve gömülü cihazlara dağıtılabilir. Cihaz üzerinde dağıtım, modellerin doğrudan donanım üzerinde yürütülmesini sağlayarak bulut bağlantısı ihtiyacını ortadan kaldırır.
-
Bulut TensorFlow TPU'ları ile Kenar Bilişim: Uç cihazların sınırlı işlem kapasitesine sahip olduğu senaryolarda, TensorFlow Edge TPU'ları çıkarım görevlerini TPU'larla donatılmış bulut sunucularına yükleyebilir.
-
Hibrit Dağıtım: Hibrit bir yaklaşım, cihaz üzerinde ve bulut dağıtımını birleştirir ve makine öğrenimi modellerini dağıtmak için çok yönlü ve ölçeklenebilir bir çözüm sunar. Avantajları arasında hızlı yanıtlar için cihaz üzerinde işleme ve daha karmaşık hesaplamalar için bulut bilişim yer alır.
YOLO11 Modellerini TFLite Edge'e Aktarma TPU
YOLO11 modellerini TensorFlow Edge TPU modeline dönüştürerek model uyumluluğunu ve dağıtım esnekliğini artırabilirsiniz.
Kurulum
Gerekli paketi yüklemek için çalıştırın:
Kurulum süreciyle ilgili ayrıntılı talimatlar ve en iyi uygulamalar için Ultralytics Kurulum kılavuzumuza göz atın. YOLO11 için gerekli paketleri yüklerken herhangi bir zorlukla karşılaşırsanız, çözümler ve ipuçları için Ortak Sorunlar kılavuz umuza başvurun.
Kullanım
Kullanım talimatlarına geçmeden önce, tüm Ultralytics YOLO11 modellerinin dışa aktarılabildiğini, ancak seçtiğiniz modelin dışa aktarma işlevini desteklediğinden burada emin olabileceğinizi belirtmek önemlidir.
Kullanım
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Desteklenen dışa aktarma seçenekleri hakkında daha fazla bilgi için dağıtım seçenekleriyle ilgiliUltralytics belge sayfasını ziyaret edin.
Dışa Aktarılan YOLO11 TFLite Edge TPU Modellerini Dağıtma
Ultralytics YOLO11 modellerinizi TFLite Edge TPU formatına başarıyla aktardıktan sonra, artık bunları dağıtabilirsiniz. Bir TFLite Edge TPU modelini çalıştırmak için birincil ve önerilen ilk adım, önceki kullanım kodu parçacığında belirtildiği gibi YOLO("model_edgetpu.tflite") yöntemini kullanmaktır.
Ancak, TFLite Edge TPU modellerinizin dağıtımına ilişkin ayrıntılı talimatlar için aşağıdaki kaynaklara göz atın:
-
Coral Edge TPU ile Raspberry Pi üzerinde Ultralytics YOLO11: Gelişmiş makine öğrenimi yetenekleri için Coral Edge TPU'ları Raspberry Pi ile nasıl entegre edeceğinizi keşfedin.
-
Kod Örnekleri: Projelerinizi başlatmak için pratik TensorFlow Edge TPU dağıtım örneklerine erişin.
-
Edge'de Çıkarım Çalıştır TPU ile Python: Kurulum ve kullanım yönergeleri de dahil olmak üzere Edge TPU uygulamaları için TensorFlow Lite Python API'sinin nasıl kullanılacağını keşfedin.
Özet
Bu kılavuzda, Ultralytics YOLO11 modellerinin TFLite Edge TPU formatına nasıl aktarılacağını öğrendik. Yukarıda belirtilen adımları izleyerek bilgisayarla görme uygulamalarınızın hızını ve gücünü artırabilirsiniz.
Kullanım hakkında daha fazla bilgi için Edge TPU resmi web sitesini ziyaret edin.
Ayrıca, diğer Ultralytics YOLO11 entegrasyonları hakkında daha fazla bilgi için lütfen entegrasyon kılavuzu sayfamızı ziyaret edin. Orada değerli kaynaklar ve içgörüler keşfedeceksiniz.
SSS
Bir YOLO11 modelini TFLite Edge TPU formatına nasıl aktarabilirim?
Bir YOLO11 modelini TFLite Edge TPU formatına aktarmak için aşağıdaki adımları takip edebilirsiniz:
Kullanım
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Modellerin diğer formatlara aktarılmasıyla ilgili tüm ayrıntılar için dışa aktarma kılavuzumuza bakın.
YOLO11 modellerini TFLite Edge TPU adresine aktarmanın faydaları nelerdir?
YOLO11 modellerini TFLite Edge TPU 'a aktarmak çeşitli avantajlar sunar:
- Optimize Edilmiş Performans: Minimum güç tüketimi ile yüksek hızlı sinir ağı performansı elde edin.
- Azaltılmış Gecikme: Bulut bağımlılığına ihtiyaç duymadan hızlı yerel veri işleme.
- Geliştirilmiş Gizlilik: Yerel işleme, kullanıcı verilerini gizli ve güvenli tutar.
Bu da onu, cihazların sınırlı güç ve hesaplama kaynaklarına sahip olduğu uç bilişim uygulamaları için ideal hale getirir. Neden dışa aktarmanız gerektiği hakkında daha fazla bilgi edinin.
TFLite Edge TPU modellerini mobil ve gömülü cihazlara dağıtabilir miyim?
Evet, TensorFlow Lite Edge TPU modelleri doğrudan mobil ve gömülü cihazlara dağıtılabilir. Bu dağıtım yaklaşımı, modellerin doğrudan donanım üzerinde yürütülmesini sağlayarak daha hızlı ve daha verimli çıkarımlar sunar. Entegrasyon örnekleri için Coral Edge TPU 'u Raspberry Pi üzerinde dağıtma kılavuzumuza göz atın.
TFLite Edge TPU modelleri için bazı yaygın kullanım durumları nelerdir?
TFLite Edge TPU modelleri için yaygın kullanım durumları şunlardır:
- Akıllı Kameralar: Gerçek zamanlı görüntü ve video analizinin geliştirilmesi.
- IoT Cihazları: Akıllı ev ve endüstriyel otomasyonun etkinleştirilmesi.
- Sağlık Hizmetleri: Tıbbi görüntüleme ve teşhis işlemlerinin hızlandırılması.
- Perakendecilik: Envanter yönetiminin ve müşteri davranış analizinin iyileştirilmesi.
Bu uygulamalar, TFLite Edge TPU modellerinin yüksek performansından ve düşük güç tüketiminden yararlanır. Kullanım senaryoları hakkında daha fazlasını keşfedin.
TFLite Edge TPU modellerini dışa aktarırken veya dağıtırken sorunları nasıl giderebilirim?
TFLite Edge TPU modellerini dışa aktarırken veya dağıtırken sorunlarla karşılaşırsanız, sorun giderme ipuçları için Yaygın Sorunlar kılavuzumuza bakın. Bu kılavuz, sorunsuz çalışmayı sağlamanıza yardımcı olacak yaygın sorunları ve çözümleri kapsar. Daha fazla destek için Yardım Merkezimizi ziyaret edin.
