Ultralytics YOLO26'yı Coral Edge TPU ile Raspberry Pi'da çalıştırma#

Raspberry Pi, uçta bilgisayarlı görü çalıştırmak için enerji verimli ve uygun fiyatlı bir platformdur; ancak ONNX veya OpenVINO gibi optimize edilmiş biçimlerde bile cihaz üzerinde çıkarım yavaştır. Pi'ı Coral Edge TPU yardımcı işlemcisiyle eşleştirmek, çıkarım iş yükünü özel donanıma aktarır ve işlemi önemli ölçüde hızlandırır. Bu kılavuzda çalışma zamanını yüklemeyi, bir Ultralytics YOLO26 modelini Edge TPU biçimine aktarmayı ve hızlandırılmış çıkarım çalıştırmayı öğreneceksin.

Neden Coral Edge TPU Kullanmalısın?#

Coral Edge TPU, sistemine bir Edge TPU yardımcı işlemcisi ekleyen kompakt bir cihazdır ve TensorFlow Lite modelleri için düşük güç tüketimli, yüksek performanslı ML çıkarımı sağlar. Tek başına CPU'nun yetersiz kaldığı gömülü sistem ve mobil dağıtımlar için çok uygundur:

• Daha hızlı çıkarım — Edge TPU, niceleme uygulanmış modelleri Raspberry Pi CPU'sunun tek başına sağlayabildiğinin çok ötesinde hızlandırır.
• Düşük güç tüketimi — watt başına yüksek aktarım hızı sunar; pille veya güneş enerjisiyle çalışan dağıtımlar için idealdir.
• Tak ve çalıştır — USB Accelerator, USB 3.0 üzerinden bağlanır; bu nedenle ek donanım entegrasyonu gerekmez.

Ön koşullar#

• Raspberry Pi 4B (2 GB veya üzeri önerilir) ya da Raspberry Pi 5 (Önerilen)
• Masaüstü ortamına sahip Raspberry Pi OS Bullseye/Bookworm (64 bit) (Önerilen)
• Coral USB Accelerator
• Modeli dışa aktarmak için x86_64 Linux platformu (Google Colab, bir x86_64 Linux makinesi veya x86_64 ana makinede çalışan Ultralytics Docker container; Edge TPU derleyicisi yalnızca x86_64 Linux'ta kullanılabilir)

Bu kılavuz, ultralytics ve bağımlılıklarının yüklü olduğu, çalışır durumda bir Raspberry Pi OS kurulumuna zaten sahip olduğunu varsayar. Değilse önce hızlı başlangıç kılavuzunu izle.

Ön koşulları tamamladıktan sonra iş akışı üç adımdan oluşuyor: Pi'a Edge TPU çalışma zamanını yükle, modeli x86_64 Linux makinesinde dışa aktar ve ardından Pi'da çıkarım çalıştır.

Edge TPU çalışma zamanını yükle#

Çalışma zamanı farklı derlemelerle sunulur; işletim sistemine uygun olanı seç. Yüksek frekanslı derleme, daha iyi performans için Edge TPU'yu daha yüksek saat hızında çalıştırır; ancak termal kısıtlamaya neden olabilir. Bu derlemeyi seçersen bir tür soğutma kullan.

En son sürümü buradan indir ve ardından .deb paketini yükle:

sudo dpkg -i path/to/package.deb

Çalışma zamanını yükledikten sonra yeni udev kuralının etkinleşmesi için Coral Edge TPU'yu Raspberry Pi üzerindeki bir USB 3.0 bağlantı noktasına tak.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Modelini Edge TPU biçimine aktar#

Edge TPU'yu kullanmak için modelini uyumlu bir biçime dönüştür. Dışa aktarma işlemini x86_64 Linux'ta çalıştır: Google Colab, bir x86_64 Linux makinesi, x86_64 ana makinedeki resmî Ultralytics Docker container veya Ultralytics Platform. Edge TPU derleyicisi yalnızca x86_64 Linux'ta kullanılabilir. Kullanılabilir bağımsız değişkenler için Dışa aktarma modu sayfasına bak.

from ultralytics import YOLO

# Bir model yükle
model = YOLO("path/to/model.pt")  # Resmî bir model veya özel model yükle

# Modeli dışa aktar
model.export(format="edgetpu")

Dışa aktarılan model <model_name>_saved_model/ klasörüne <model_name>_full_integer_quant_edgetpu.tflite olarak kaydedilir.

Edge TPU'da çıkarım çalıştır#

Modeli çalıştırmadan önce Raspberry Pi'a doğru kitaplıkları yükle. TensorFlow zaten yüklüyse önce kaldır:

pip uninstall tensorflow tensorflow-aarch64

Ardından tflite-runtime paketini yükle veya güncelle:

pip install -U tflite-runtime

Artık çıkarım çalıştırabilirsin:

from ultralytics import YOLO

# Bir model yükle
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Resmî bir model veya özel model yükle

# Tahmini çalıştır
model.predict("path/to/source.png")

Tahmin moduyla ilgili tüm ayrıntıları Tahmin sayfasında bulabilirsin.

from ultralytics import YOLO

# Bir model yükle
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Resmî bir model veya özel model yükle

# Tahmini çalıştır
model.predict("path/to/source.png")  # Çıkarım varsayılan olarak ilk TPU'yu kullanır

model.predict("path/to/source.png", device="tpu:0")  # İlk TPU'yu seç

model.predict("path/to/source.png", device="tpu:1")  # İkinci TPU'yu seç

Kıyaslamalar#

Aşağıdaki değerler Raspberry Pi OS Bookworm 64 bit ve USB Coral Edge TPU kullanılarak ölçüldü. Bu değerler yalnızca çıkarım süresini gösterir (ön/son işleme dâhil değildir) ve Edge TPU'nun farklı Pi modellerinde ve modlarında sağladığı hızlanmaya ilişkin göreli bir referans sunar.

Ortalama olarak:

• Raspberry Pi 5, standart modda Raspberry Pi 4B'den %22 daha hızlıdır.
• Raspberry Pi 5, yüksek frekans modunda Raspberry Pi 4B'den %30,2 daha hızlıdır.
• Yüksek frekans modu, standart moddan %28,4 daha hızlıdır.

Sonuç#

Coral Edge TPU, Raspberry Pi'ı Ultralytics YOLO26 için yetenekli ve düşük güç tüketimli bir çıkarım cihazına dönüştürür. Modelini x86_64 Linux makinesinde dışa aktar, _edgetpu.tflite son ekini koru ve hızlandırılmış uç çıkarımı için Pi'da tflite-runtime ile çalıştır. Diğer dağıtım seçenekleri için Raspberry Pi kılavuzuna bak.

Sık Sorulan Sorular#