Ultralytics YOLO26'yı Coral Edge TPU ile Raspberry Pi'da Çalıştırma#

Bir Raspberry Pi, uçta bilgisayarlı görü çalıştırmak için enerji tasarruflu ve uygun fiyatlı bir platformdur; ancak ONNX veya OpenVINO gibi optimize edilmiş biçimlerde bile cihaz üzerindeki çıkarım yavaştır. Pi'ı bir Coral Edge TPU yardımcı işlemcisiyle eşleştirmek, çıkarımı özel donanıma aktarır ve önemli ölçüde hızlandırır. Bu kılavuzda çalışma zamanını nasıl yükleyeceğin, bir Ultralytics YOLO26 modelini Edge TPU biçimine nasıl aktaracağın ve hızlandırılmış çıkarımı nasıl çalıştıracağın gösterilir.

Neden Coral Edge TPU Kullanmalısın?#

Coral Edge TPU, sistemine bir Edge TPU yardımcı işlemcisi ekleyen ve TensorFlow Lite modelleri için düşük güç tüketimli, yüksek performanslı ML çıkarımı sağlayan kompakt bir cihazdır. Tek başına CPU'nun yetersiz kaldığı gömülü ve mobil dağıtımlar için çok uygundur:

• Daha hızlı çıkarım — Edge TPU, nicemlenmiş modelleri Raspberry Pi CPU'sunun tek başına sağlayabileceğinden çok daha hızlı çalıştırır.
• Düşük güç tüketimi — watt başına yüksek işlem hacmi sunar; pille veya güneş enerjisiyle çalışan dağıtımlar için idealdir.
• Tak ve çalıştır — USB Accelerator, USB 3.0 üzerinden bağlanır; bu nedenle ek donanım entegrasyonu gerekmez.

Ön koşullar#

• Raspberry Pi 4B (2 GB veya üzeri önerilir) ya da Raspberry Pi 5 (Önerilen)
• Masaüstü içeren Raspberry Pi OS Bullseye/Bookworm (64 bit) (Önerilen)
• Coral USB Accelerator
• Modeli dışa aktarmak için ARM olmayan bir platform (Google Colab, x86_64 Linux makinesi veya Ultralytics Docker container); çünkü Edge TPU derleyicisi ARM üzerinde kullanılamaz

Bu kılavuzda, çalışan bir Raspberry Pi OS kurulumuna ve yüklenmiş ultralytics ile bağımlılıklarına zaten sahip olduğun varsayılır. Değilse önce hızlı başlangıç kılavuzunu izle.

Ön koşullar hazır olduğunda iş akışı üç adımdan oluşur: Pi'a Edge TPU çalışma zamanını yükle, ARM olmayan bir makinede modelini dışa aktar ve ardından Pi üzerinde çıkarımı çalıştır.

Edge TPU Çalışma Zamanını Yükleme#

Çalışma zamanı birkaç farklı derleme olarak sunulur; bu nedenle işletim sisteminle eşleşen derlemeyi seç. Yüksek frekanslı derleme, daha iyi performans için Edge TPU'yu daha yüksek saat hızında çalıştırır; ancak termal daraltmaya neden olabilir — bunu seçersen bir tür soğutma kullan.

En son sürümü buradan indir, ardından .deb paketini yükle:

sudo dpkg -i path/to/package.deb

Çalışma zamanını yükledikten sonra Coral Edge TPU'nu Raspberry Pi üzerindeki bir USB 3.0 bağlantı noktasına tak; böylece yeni udev kuralı etkinleşebilir.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Modelini Edge TPU Biçimine Dışa Aktarma#

Edge TPU'yu kullanmak için modelini uyumlu bir biçime dönüştür. Dışa aktarma işlemini ARM olmayan bir platformda — Google Colab, x86_64 Linux makinesi, resmî Ultralytics Docker container veya Ultralytics Platform üzerinde — çalıştır; çünkü Edge TPU derleyicisi ARM üzerinde kullanılamaz. Kullanılabilir bağımsız değişkenler için Dışa aktarma modu sayfasına bak.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

Dışa aktarılan model <model_name>_saved_model/ klasörüne <model_name>_full_integer_quant_edgetpu.tflite olarak kaydedilir.

Edge TPU'da Çıkarım Çalıştırma#

Modeli çalıştırmadan önce Raspberry Pi'a doğru kitaplıkları yükle. TensorFlow zaten yüklüyse önce kaldır:

pip uninstall tensorflow tensorflow-aarch64

Ardından tflite-runtime paketini yükle veya güncelle:

pip install -U tflite-runtime

Artık çıkarımı çalıştırabilirsin:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Tahmin modunun tüm ayrıntılarını Predict sayfasında bulabilirsin.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")  # Inference defaults to the first TPU

model.predict("path/to/source.png", device="tpu:0")  # Select the first TPU

model.predict("path/to/source.png", device="tpu:1")  # Select the second TPU

Karşılaştırmalı Testler#

Aşağıdaki değerler Raspberry Pi OS Bookworm 64 bit ve USB Coral Edge TPU ile ölçülmüştür. Yalnızca çıkarım süresini gösterir (ön işleme ve son işleme hariçtir) ve Edge TPU'nun farklı Pi modelleri ile modlarında sağladığı hızlandırma için göreli bir referans niteliğindedir.

Ortalama olarak:

• Raspberry Pi 5, standart modda Raspberry Pi 4B'den %22 daha hızlıdır.
• Raspberry Pi 5, yüksek frekans modunda Raspberry Pi 4B'den %30,2 daha hızlıdır.
• Yüksek frekans modu, standart moddan %28,4 daha hızlıdır.

Sonuç#

Coral Edge TPU, Raspberry Pi'ı Ultralytics YOLO26 için yetenekli ve düşük güç tüketimli bir çıkarım cihazına dönüştürür. Modelini ARM olmayan bir makinede dışa aktar, _edgetpu.tflite son ekini koru ve hızlandırılmış uç çıkarımı elde etmek için Pi üzerinde tflite-runtime ile çalıştır. Daha fazla dağıtım seçeneği için Raspberry Pi kılavuzuna bak.

SSS#