Начать

Краткое руководство: Raspberry Pi с Ultralytics YOLO26

Raspberry Pi — это компактный и недорогой компьютер, на котором Ultralytics YOLO26 выполняет обнаружение объектов в реальном времени на периферии — GPU не требуется. В этом руководстве описано развёртывание YOLO26 на Raspberry Pi 4 и 5: прошивка ОС, установка Ultralytics, экспорт в NCNN для максимально быстрого инференса на ARM и запуск предсказаний на видеопотоке с камеры. Здесь также приведены тесты производительности в восьми форматах экспорта, чтобы ты мог выбрать оптимальный баланс скорости и точности для своего оборудования.

Перейди к разделам: настройка Ultralytics, экспорт в NCNN и запуск инференса, бенчмарки или инференс с камеры.



Смотри: Обновления и улучшения Raspberry Pi 5.
Примечание

Это руководство проверено на Raspberry Pi 4 и Raspberry Pi 5 с последней версией Raspberry Pi OS Bookworm (Debian 12). Руководство также должно работать на старых устройствах Raspberry Pi, например Raspberry Pi 3, если на них установлена та же версия Raspberry Pi OS Bookworm.

Что такое Raspberry Pi?#

Raspberry Pi — это компактный и недорогой одноплатный компьютер. Он стал популярен для самых разных проектов и задач — от домашней автоматизации для энтузиастов до промышленного применения. Платы Raspberry Pi поддерживают различные операционные системы и оснащены контактами GPIO (ввода-вывода общего назначения), которые упрощают подключение датчиков, исполнительных механизмов и других компонентов. Выпускаются разные модели с различными характеристиками, но все они объединены общей концепцией: низкая стоимость, компактность и универсальность.

Сравнение моделей Raspberry Pi#

Raspberry Pi 3Raspberry Pi 4Raspberry Pi 5
CPUBroadcom BCM2837, 64-разрядная SoC Cortex-A53Broadcom BCM2711, 64-разрядная SoC Cortex-A72Broadcom BCM2712, 64-разрядная SoC Cortex-A76
Максимальная частота CPU1.4GHz1.8GHz2.4GHz
GPUVideoCore IVVideoCore VIVideoCore VII
Максимальная частота GPU400MHz500MHz800MHz
Память1 ГБ LPDDR2 SDRAM1 ГБ, 2 ГБ, 4 ГБ, 8 ГБ LPDDR4-3200 SDRAM2 ГБ, 4 ГБ, 8 ГБ, 16 ГБ LPDDR4X-4267 SDRAM
PCIeН/ДН/ДИнтерфейс 1xPCIe 2.0
Максимальное энергопотребление2.5A@5V3A@5V5A@5V (PD enabled)

Что такое Raspberry Pi OS?#

Raspberry Pi OS (ранее известная как Raspbian) — Unix-подобная операционная система на основе дистрибутива Debian GNU/Linux для семейства компактных одноплатных компьютеров Raspberry Pi, выпускаемая фондом Raspberry Pi Foundation. Raspberry Pi OS тщательно оптимизирована для Raspberry Pi с ARM-процессорами и использует легковесную среду рабочего стола, которая по умолчанию работает на Wayland на Raspberry Pi 4 и 5. Raspberry Pi OS активно развивается, при этом особое внимание уделяется повышению стабильности и производительности как можно большего числа пакетов Debian на Raspberry Pi.

Запиши Raspberry Pi OS на Raspberry Pi#

После того как получишь Raspberry Pi, сначала запиши Raspberry Pi OS на карту microSD, вставь её в устройство и загрузи ОС. Чтобы подготовить устройство к первому использованию, следуй подробной документации Raspberry Pi для начала работы.

Настройка Ultralytics#

Ты можешь установить пакет Ultralytics на Raspberry Pi двумя способами для следующего проекта в области компьютерного зрения:

Начать работу с Docker#

Самый быстрый способ начать работу с Ultralytics YOLO26 на Raspberry Pi — запустить готовый образ Docker для Raspberry Pi.

Выполни приведённую ниже команду, чтобы загрузить контейнер Docker и запустить его на Raspberry Pi. Он основан на официальном образе Python 3.13-slim, в котором используется Python 3.13 и последняя версия Debian.

t=ultralytics/ultralytics:latest-arm64
sudo docker pull $t && sudo docker run -it --ipc=host $t

Образ Docker уже включает Ultralytics, поэтому ты можешь сразу перейти к экспорту модели в NCNN.

Начать работу без Docker#

Установка пакета Ultralytics#

Здесь мы установим пакет Ultralytics на Raspberry Pi. Зависимости для экспорта в такие форматы, как NCNN, устанавливаются автоматически при первом экспорте модели PyTorch, поэтому здесь достаточно установить только основной пакет.

  1. Обнови список пакетов, установи pip и обнови его до последней версии

    sudo apt update
    sudo apt install python3-pip -y
    pip install -U pip
  2. Установи пакет ultralytics через pip

    pip install ultralytics
  3. Перезагрузи устройство

    sudo reboot

Использование NCNN на Raspberry Pi#

Из всех форматов экспорта, поддерживаемых Ultralytics, NCNN обеспечивает наилучшую производительность инференса на устройствах Raspberry Pi, поскольку хорошо оптимизирован для мобильных и встраиваемых платформ, таких как ARM. Преобразуй модель YOLO26n в формате PyTorch в NCNN, а затем запусти инференс экспортированной модели:

Пример
from ultralytics import YOLO

# Загрузи модель YOLO26n в формате PyTorch
model = YOLO("yolo26n.pt")

# Экспортировать модель в формат NCNN
model.export(format="ncnn")  # creates 'yolo26n_ncnn_model'

# Загрузить экспортированную модель NCNN
ncnn_model = YOLO("yolo26n_ncnn_model")

# Выполнить инференс
results = ncnn_model("https://ultralytics.com/images/bus.jpg")
Совет

Подробнее о поддерживаемых параметрах экспорта см. в руководстве по развертыванию моделей.

Улучшения производительности YOLO26 по сравнению с YOLO11#

YOLO26 специально разработана для устройств с ограниченными ресурсами, таких как Raspberry Pi 5. По сравнению с YOLO11n модель YOLO26n обеспечивает прирост FPS примерно на 15% (6.79 → 7.79) и более высокую mAP (40.1 против 39.5) при размере входного изображения 640 и использовании моделей, экспортированных в ONNX, на Raspberry Pi 5. Ниже приведены таблица и диаграмма с результатами сравнения.

YOLO26 benchmarks on RPi 5
Тестирование производительности выполнено с Ultralytics 8.4.14
Производительность
МодельmAP50-95(B)Время инференса (мс/изобр.)
YOLO26n40.1128.42
YOLO26s47.8352.84
YOLO26m52.5993.78
YOLO26l54.41259.46
YOLO26x56.92636.26

Тестирование производительности выполнено с Ultralytics 8.4.14.

Результаты тестирования YOLO26 на Raspberry Pi 5#

Команда Ultralytics провела тесты производительности YOLO26 в восьми форматах моделей, сравнив скорость и точность: PyTorch, TorchScript, ONNX, OpenVINO, LiteRT, MNN, NCNN и ExecuTorch. Тесты выполнялись на Raspberry Pi 5 с точностью FP32 и стандартным размером входного изображения 640.

Сравнительный график#

В тестирование включены только YOLO26n и YOLO26s, поскольку более крупные модели на Raspberry Pi работают слишком медленно и непрактичны.

YOLO26 benchmarks on RPi 5
Тестирование производительности выполнено с Ultralytics 8.4.108

Подробная сравнительная таблица#

В таблице ниже приведены результаты тестирования двух моделей (YOLO26n, YOLO26s) в восьми форматах (PyTorch, TorchScript, ONNX, OpenVINO, LiteRT, MNN, NCNN, ExecuTorch) на Raspberry Pi 5. Для каждой комбинации указаны статус, размер, метрика mAP50-95(B) и время инференса.

Производительность
ФорматСтатусРазмер на диске (МБ)mAP50-95(B)Время инференса (мс/изобр.)
PyTorch✅5.30.4760299.09
TorchScript✅9.80.4734353.20
ONNX✅9.50.4734125.99
OpenVINO✅9.60.4734104.55
LiteRT✅9.80.4730123.30
MNN✅9.40.474991.87
NCNN✅9.40.478467.03
ExecuTorch✅9.40.4772144.83

Тестирование производительности выполнено с Ultralytics 8.4.108

Примечание

Время инференса не включает пред- и постобработку.

Воспроизведение наших результатов#

Чтобы воспроизвести приведённые выше результаты тестирования Ultralytics для всех форматов экспорта, выполни этот код:

Пример
from ultralytics import YOLO

# Загрузи модель YOLO26n в формате PyTorch
model = YOLO("yolo26n.pt")

# Сравнение скорости и точности YOLO26n на наборе данных COCO128 для всех форматов экспорта
results = model.benchmark(data="coco128.yaml", imgsz=640)

Учти, что результаты бенчмарков могут различаться в зависимости от конкретной конфигурации оборудования и программного обеспечения системы, а также от текущей нагрузки на систему во время запуска бенчмарков. Для получения наиболее надёжных результатов используй набор данных с большим количеством изображений, например data='coco.yaml' (5000 валидационных изображений).

Экспорт LiteRT выполняется на внешнем устройстве

Экспорт format=litert (через litert-torch) поддерживается только в Linux x86_64 и macOS, но не на самом Raspberry Pi. Экспортируй модель .tflite на компьютере с Linux x86_64 или Mac, скопируй её на Raspberry Pi и используй Raspberry Pi для инференса.

Использование камеры Raspberry Pi#

Для проектов компьютерного зрения на Raspberry Pi часто нужны видеопотоки в реальном времени для инференса. Встроенный разъём MIPI CSI на Raspberry Pi позволяет подключать официальные модули камеры Raspberry Pi. В этом руководстве мы использовали модуль камеры Raspberry Pi Camera Module 3, чтобы получать видеопоток и выполнять инференс с моделями YOLO26.

Совет
Примечание

В Raspberry Pi 5 используются разъёмы CSI меньшего размера, чем в Raspberry Pi 4 (22 контакта против 15), поэтому для подключения камеры Raspberry Pi тебе понадобится переходной кабель с 15 на 22 контакта.

Проверка камеры#

Подключи камеру к Raspberry Pi и выполни следующую команду rpicam-hello. Камера должна передавать видео в реальном времени в течение примерно 5 секунд.

rpicam-hello

Инференс с камеры#

Есть два способа использовать камеру Raspberry Pi для инференса с моделями YOLO26.

Запуск инференса с камерой Raspberry Pi

Используй picamera2, предустановленный в Raspberry Pi OS, для доступа к камере и запуска инференса с моделями YOLO26.

Пример
import cv2
from picamera2 import Picamera2

from ultralytics import YOLO

# Инициализировать Picamera2
picam2 = Picamera2()
picam2.preview_configuration.main.size = (1280, 720)
picam2.preview_configuration.main.format = "RGB888"
picam2.preview_configuration.align()
picam2.configure("preview")
picam2.start()

# Загружаем модель YOLO26
model = YOLO("yolo26n.pt")

while True:
    # Захватывать кадры по одному
    frame = picam2.capture_array()

    # Выполнить инференс YOLO26 на кадре
    results = model(frame)

    # Визуализировать результаты на кадре
    annotated_frame = results[0].plot()

    # Отобразить обработанный кадр
    cv2.imshow("Camera", annotated_frame)

    # Прервать цикл, если нажата клавиша 'q'
    if cv2.waitKey(1) == ord("q"):
        break

# Освободить ресурсы и закрыть окна
cv2.destroyAllWindows()

Рекомендации по использованию Raspberry Pi#

Следуй этим рекомендациям, чтобы добиться максимальной производительности YOLO26 на Raspberry Pi.

  1. Используй SSD

    Для непрерывной работы 24/7 используй в системе SSD: при постоянной записи SD-карта может износиться или выйти из строя. Благодаря встроенному разъёму PCIe на Raspberry Pi 5 можно подключить SSD через адаптер, например NVMe Base для Raspberry Pi 5.

  2. Запись образа без графического интерфейса

    При записи Raspberry Pi OS можно не устанавливать среду рабочего стола (Raspberry Pi OS Lite), чтобы немного сэкономить оперативную память устройства и выделить больше ресурсов для обработки данных компьютерного зрения.

  3. Разгон Raspberry Pi

    Если ты хочешь немного повысить производительность при запуске моделей Ultralytics YOLO26 на Raspberry Pi 5, можно разогнать CPU с базовой частоты 2.4GHz до 3.0GHz, а GPU — с 800MHz до 1GHz. Если система станет нестабильной или начнёт аварийно завершать работу, снижай значения разгона шагами по 100MHz. Обеспечь надлежащее охлаждение: разгон увеличивает тепловыделение и может привести к троттлингу из-за перегрева.

    a. Обнови программное обеспечение

    sudo apt update && sudo apt dist-upgrade

    b. Открой файл конфигурации для редактирования

    sudo nano /boot/firmware/config.txt

    c. Добавь следующие строки в конец файла

    arm_freq=3000
    gpu_freq=1000
    force_turbo=1

    d. Сохрани изменения и выйди, нажав CTRL + X, затем Y и ENTER

    e. Перезагрузи Raspberry Pi

Следующие шаги#

Ты успешно настроил YOLO26 на Raspberry Pi. Чтобы продолжить, изучи режим Predict, чтобы узнать о дополнительных возможностях инференса, режим Export, чтобы ознакомиться с другими форматами развертывания, или руководство по NVIDIA Jetson, если тебе нужны дополнительные вычислительные ресурсы на периферийном устройстве. Полную документацию см. в документации Ultralytics YOLO26.

Благодарности и цитирование#

Это руководство изначально подготовил Даан Ээлтинг для Kashmir World Foundation — организации, посвящённой использованию YOLO для сохранения исчезающих видов. Мы признаём её новаторский вклад и внимание к обучению в области технологий обнаружения объектов.

Подробнее о деятельности Kashmir World Foundation можно узнать на сайте организации.

Часто задаваемые вопросы#

  • Чтобы настроить Ultralytics YOLO26 на Raspberry Pi без Docker, выполни следующие действия:

    1. Обнови список пакетов и установи pip:
      sudo apt update
      sudo apt install python3-pip -y
      pip install -U pip
    2. Установи пакет Ultralytics:
      pip install ultralytics
    3. Перезагрузи устройство, чтобы применить изменения:
      sudo reboot

    Подробные инструкции см. в разделе Начать работу без Docker.

  • NCNN хорошо оптимизирован для мобильных и встраиваемых платформ, поэтому подходит для запуска YOLO26 на устройствах Raspberry Pi. Его оптимизированные для ARM ядра обеспечивают на Pi более быстрый инференс, чем другие форматы экспорта в приведённых выше бенчмарках.

  • Преобразовать модель YOLO26 PyTorch в формат NCNN можно с помощью команд Python или CLI:

    Пример
    from ultralytics import YOLO
    
    # Загрузи модель YOLO26n в формате PyTorch
    model = YOLO("yolo26n.pt")
    
    # Экспортировать модель в формат NCNN
    model.export(format="ncnn")  # creates 'yolo26n_ncnn_model'
    
    # Загрузить экспортированную модель NCNN
    ncnn_model = YOLO("yolo26n_ncnn_model")
    
    # Выполнить инференс
    results = ncnn_model("https://ultralytics.com/images/bus.jpg")

    Подробнее см. в разделе Использование NCNN на Raspberry Pi.

  • Основные различия:

    • CPU: в Raspberry Pi 4 используется 64-битная SoC Broadcom BCM2711 с ядрами Cortex-A72, а в Raspberry Pi 5 — 64-битная SoC Broadcom BCM2712 с ядрами Cortex-A76.
    • Максимальная частота CPU: максимальная частота Raspberry Pi 4 составляет 1.8GHz, а Raspberry Pi 5 — 2.4GHz.
    • Память: Raspberry Pi 4 поддерживает до 8 ГБ SDRAM LPDDR4-3200, а Raspberry Pi 5 оснащён памятью LPDDR4X-4267 SDRAM объёмом 2, 4, 8 или 16 ГБ.

    Эти улучшения повышают производительность моделей YOLO26 на Raspberry Pi 5 по сравнению с Raspberry Pi 4. Подробнее см. в таблице сравнения моделей Raspberry Pi.

  • Настроить камеру Raspberry Pi для инференса YOLO26 можно двумя способами:

    1. С помощью picamera2:

      import cv2
      from picamera2 import Picamera2
      
      from ultralytics import YOLO
      
      picam2 = Picamera2()
      picam2.preview_configuration.main.size = (1280, 720)
      picam2.preview_configuration.main.format = "RGB888"
      picam2.preview_configuration.align()
      picam2.configure("preview")
      picam2.start()
      
      model = YOLO("yolo26n.pt")
      
      while True:
          frame = picam2.capture_array()
          results = model(frame)
          annotated_frame = results[0].plot()
          cv2.imshow("Camera", annotated_frame)
      
          if cv2.waitKey(1) == ord("q"):
              break
      
      cv2.destroyAllWindows()
    2. С помощью TCP-потока:

      rpicam-vid -n -t 0 --inline --listen -o tcp://127.0.0.1:8888
      from ultralytics import YOLO
      
      model = YOLO("yolo26n.pt")
      results = model("tcp://127.0.0.1:8888")

    Подробные инструкции по настройке см. в разделе «Инференс с камерой».

Комментарии134

Задай вопрос, поделись результатами или помоги кому-нибудь.

    1. Glenn JocherUltralytics(изменено)

      Hi there!

      Thank you for your feedback and for sharing your positive experience on the Raspberry Pi 5! 😊

      Creating a tutorial for the AI kit that comes with the Raspberry Pi 5 is a fantastic idea. In the meantime, you can refer to our comprehensive Quick Start Guide for Raspberry Pi with Ultralytics YOLO26, which provides detailed instructions on setting up and running YOLO on Raspberry Pi devices, including performance benchmarks.

      For those interested in using the AI kit, the setup process should be quite similar. Here’s a quick overview to get you started:

      1. Flash Raspberry Pi OS: Ensure you have the latest Raspberry Pi OS Bookworm (Debian 12) installed. Follow the Getting Started Documentation by Raspberry Pi to prepare your device.

      2. Set Up Ultralytics:

        • With Docker:
          t=ultralytics/ultralytics:latest-arm64 && sudo docker pull $t && sudo docker run -it --ipc=host $t
        • Without Docker:
          sudo apt update
          sudo apt install python3-pip -y
          pip install -U pip
          pip install ultralytics[export]
          sudo reboot
      3. Use NCNN for Best Performance: Convert your YOLO26 model to NCNN format for optimal performance on Raspberry Pi:

        from ultralytics import YOLO
        
        # Load a YOLO26n PyTorch model
        model = YOLO("yolo26n.pt")
        
        # Export the model to NCNN format
        model.export(format="ncnn")  # creates 'yolo26n_ncnn_model'
        
        # Load the exported NCNN model
        ncnn_model = YOLO("yolo26n_ncnn_model")
        
        # Run inference
        results = ncnn_model("https://ultralytics.com/images/bus.jpg")
      4. Using the Raspberry Pi Camera: For real-time video feeds, you can use the picamera2 library or set up a TCP stream:

        • Using picamera2:

          import cv2
          from picamera2 import Picamera2
          from ultralytics import YOLO
          
          picam2 = Picamera2()
          picam2.preview_configuration.main.size = (1280, 720)
          picam2.preview_configuration.main.format = "RGB888"
          picam2.preview_configuration.align()
          picam2.configure("preview")
          picam2.start()
          
          model = YOLO("yolo26n.pt")
          
          while True:
              frame = picam2.capture_array()
              results = model(frame)
              annotated_frame = results[0].plot()
              cv2.imshow("Camera", annotated_frame)
              if cv2.waitKey(1) == ord("q"):
                  break
          
          cv2.destroyAllWindows()
        • Using TCP Stream:

          rpicam-vid -n -t 0 --inline --listen -o tcp://127.0.0.1:8888
          from ultralytics import YOLO
          
          model = YOLO("yolo26n.pt")
          results = model("tcp://127.0.0.1:8888")

      We hope this helps you get started with the AI kit on your Raspberry Pi 5. For more detailed instructions and additional resources, please visit our Raspberry Pi Guide.

      Happy coding! 🚀

  1. wnelisGitHub

    Today I've installed module ultralytics on a Raspberry Pi 4 with 4 [GiB] memory running Trixie. Some remarks about what I've learned: . Use the 64-bit variant of Raspberry OS; . Use an microSD card of at least 32 [GiB]; . Disable /tmp becoming a file system in memory (tmpfs): sudo systemctl mask tmp.mount; . OpenCV is installed using apt, module ultralytics is installed in a virtual Python environment: 'python -m venv --system-site-packages `.

    It is found that YOLO runs into a hardware error: "Illegal instruction". This can be reproduced by using the Python script shown above to export the model in NCNN format. The output is:

    Downloading https://github.com/ultralyti…: 100% ━━━━━━━━━━━━ 5.3MB 1.4MB/s 3.8s Ultralytics 8.4.191 🚀 Python-3.13.5 torch-2.14.1+cu130 CPU (aarch64) Illegal instruction

    How can this issue be solved?

    1. Paula DerrengerUltralytics

      @wnelis the most likely cause is a native PyTorch binary using instructions unsupported by the Pi 4’s CPU, rather than faulty hardware; similar crashes are documented in Ultralytics #19091 and upstream PyTorch, although your exact version is not confirmed affected. (github.com) Your log shows a CUDA build (+cu130); first replace it with the matching official CPU-only packages inside your activated virtual environment, then retry the export: (pytorch.org)

      python -m pip install --force-reinstall torch==2.14.1 torchvision==0.29.1 --index-url https://download.pytorch.org/whl/cpu

      If it still crashes, please share the text output of yolo checks and python -m pip show torch torchvision from that same environment so we can identify package/path conflicts.

  2. hm-zerooneGitHub(изменено)

    "We haven’t validated Orbit OS yet, but if it supports tflite or onnx runtimes you should be able to deploy an exported Ultralytics YOLO26 model there using Export mode and the deployment options guide; if you try it, please share the exact device, export format, and any text error logs here in Discussions so the Ultralytics team can take a look."

    Hi @glenn-jocher,

    I added a new feature to my Orbit OS app to test YOLO models directly on edge devices, in this case a Raspberry Pi. The app now allows adding new models, and by default includes YOLO v8, v11 and v26.

    We also introduced a benchmark mode, where you can select an image and run all models to compare performance and results.

    localhost_9005_ (1)

    In the example shown in the image, YOLOv8 achieved the highest number of correct object detections by time.

    This demo video shows the remote deployment, no SSH, no Docker, of the app in action on Raspberry Pi 5 vs Arduino UNO Q and a comparison (“VS”) between the RPi 5 and UNO Q running YOLO v8. https://youtu.be/aiFJmosYVAI?si=v3Jo_TbswU3n-sZU

    1. hm-zerooneGitHub(изменено)

      Hey! Thanks for the feedback. All models were tested under the same conditions — TFlite runtime, same image, same thresholds (conf=0.50, IoU=0.45), same imgsz 640×640 with letterbox preprocessing.

      Everything runs through the OrbitOS SDK which currently has TFLite and ONNX embedded. NCNN is something we'll look into adding in a future release.

      Quick question — for RPi deployments, would you recommend INT8 or float16 as the default export format?

      Orbit OS SDK 26.0.1 Inference example.

      Orbit OS is multi-language — For now only Go SDK is available, Python, Java and C++ SDKs are coming soon.

      image

      
      model, _ := device.AIManager.UploadAndLoadModel(
          "yolo8n",
          "models/yolo26n_float16.tflite",
          aiv26.ModelBackend_TFLITE,
          aiv26.ExecutionMode_EXEC_HIGH_THREADS,
      )
      
      resp, _ := model.Infer(ctx, tensor.Data, tensor.Shape, tensor.Dtype)
      
      fmt.Println(resp.GetOutputShape())  // [1 84 8400]
      fmt.Println(resp.GetLatencyUs())    // e.g. 528000
    2. Glenn JocherUltralytics(изменено)

      For plain Raspberry Pi CPU deployment with LiteRT (.tflite), I’d usually default to INT8 for the best speed and memory savings, and use float16 only if quantization hurts accuracy too much or your runtime performs better with FP kernels; if you benchmark both, the LiteRT export guide is the right reference, while our Raspberry Pi guide shows NCNN as the strongest baseline once you add that backend.

      1
  3. safdarhamid64-cpuGitHub

    when i write in raspberry pi terminal : from ultralytics import yolo error msg illegal instruction pops up , i have trained model and even i have first created environment and installed pip install ultralytics but still i am not able to run model yolo11n on my Raspberry Pi 4 , Guide me plzz

    1. Glenn JocherUltralytics

      That Illegal instruction on Raspberry Pi usually means an incompatible binary wheel (most often torch/numpy pulled for the wrong arch/OS), and also note the correct import is from ultralytics import YOLO (capitalized), not yolo; please paste the text output of yolo checks plus the full traceback here in this discussion, and confirm uname -m + whether you’re on Raspberry Pi OS Bookworm 64-bit as in the Raspberry Pi YOLO26 guide; as a quick way to rule out env issues you can also try our ARM64 Docker flow from that guide:```bash t=ultralytics/ultralytics:latest-arm64 sudo docker pull $t && sudo docker run -it --ipc=host $t python -c "from ultralytics import YOLO; YOLO('yolo11n.pt')"

  4. inuropixGitHub

    Hi.. I get an error when implement botsort with reid is True and the model is ncnn(exported from yolo26n-cls.pt)

    Here’s the full traceback from the error:

        self.tracks = self.model.track(
                      ^^^^^^^^^^^^^^^^^
     File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/engine/model.py", line 579, in track
        return self.predict(source=source, stream=stream, **kwargs)
               ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/engine/model.py", line 536, in predict
        return self.predictor.predict_cli(source=source) if is_cli else self.predictor(source=source, stream=stream)
                                                                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/engine/predictor.py", line 225, in __call__
        return list(self.stream_inference(source, model, *args, **kwargs))  # merge list of Results into one
               ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/torch/utils/_contextlib.py", line 40, in generator_context
        response = gen.send(None)
                   ^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/engine/predictor.py", line 338, in stream_inference
        self.run_callbacks("on_predict_postprocess_end")
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/engine/predictor.py", line 509, in run_callbacks
        callback(self)
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/trackers/track.py", line 93, in on_predict_postprocess_end
        tracks = tracker.update(det, result.orig_img, getattr(result, "feats", None))
                 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/trackers/byte_tracker.py", line 361, in update
        dists = self.get_dists(unconfirmed, detections)
                ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/trackers/bot_sort.py", line 220, in get_dists
        emb_dists = matching.embedding_distance(tracks, detections) / 2.0
                    ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/ultralytics/trackers/utils/matching.py", line 128, in embedding_distance
        cost_matrix = np.maximum(0.0, cdist(track_features, det_features, metric))  # Normalized features
                                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
      File "/home/sbr/people_counting/lib/python3.11/site-packages/scipy/spatial/distance.py", line 2903, in cdist
        raise ValueError('XA must be a 2-dimensional array.')
    ValueError: XA must be a 2-dimensional array.

    Any idea?

    1. Glenn JocherUltralytics

      That traceback usually means BoT-SORT didn’t get valid (2D) ReID embeddings; also note that .track() should run with a Detect/Seg/Pose model, while yolo26n-cls is only meant to be the ReID feature extractor configured inside botsort.yaml (via with_reid/model). (docs.ultralytics.com)

      yolo track model=yolo26n.pt source=path/to/video.mp4 tracker="botsort.yaml"
      # in a copy of botsort.yaml
      with_reid: True
      model: yolo26n-cls.pt  # first confirm this works before swapping to an exported backend

      If you just need stable tracking on Raspberry Pi, try tracker="bytetrack.yaml" (no ReID); if you still hit this, please paste your botsort.yaml and the output of yolo checks so we can reproduce from the same environment. (docs.ultralytics.com)

  5. hananabuzainabGitHub

    I can't install ultralytics on rasspbery pi 5...with python 3.11 version,why??

    I used: pip install ultralytics

    How can i fix this problem ??

    1. Glenn JocherUltralytics

      Can you paste the full pip install ultralytics error text (as text, not a screenshot) and the output of python3 -V here so we can pinpoint what’s failing? On Raspberry Pi 5 this is most often a Python/pip mismatch or non-Bookworm/32-bit setup—please also confirm you’re on Raspberry Pi OS Bookworm 64-bit as in the Raspberry Pi with Ultralytics YOLO26 guide.

      python3 -V
      python3 -m pip install -U pip setuptools wheel
      python3 -m venv .venv
      source .venv/bin/activate
      python -m pip install -U pip
      python -m pip install ultralytics
  6. avasanjeshGitHub

    Hi,

    I want to use python version of raspberry pi 32 bit OS. can you please tell me if i can export yolo detection model in 32 bit raspberry pi?

  7. Edward-YSGitHub

    Hello,I'm wondering if there is Benchmarking Results of Two Different Models (YOLO8n, YOLO8s) Across Ten Formats: PyTorch, TF, ONNX, OpenVINO, TF SavedModel, TF GraphDef, TF Lite, PaddlePaddle, MNN, NCNN.

  8. zyt2011GitHub

    Installing a single Hailo-5 is sufficient.


    发件人: Beautifulboy111 @.> 发送时间: 2025年4月22日 14:24 收件人: ultralytics/ultralytics @.> 抄送: zyt2011 @.>; Mention @.> 主题: Re: [ultralytics/ultralytics] zh/guides/raspberry-pi/ (Discussion #19489)

    Why does my Raspberry Pi 5 have a high inference latency of 150ms when using NCNN for video recognition, even after overclocking? How can I reduce the inference time?

    ― Reply to this email directly, view it on GitHubhttps://github.com/orgs/ultralytics/discussions/19489#discussioncomment-12906311, or unsubscribehttps://github.com/notifications/unsubscribe-auth/BJ7DFR53TAD7QVJNO3TTXJL22XOAJAVCNFSM6AAAAABYEEJCHCVHI2DSMVQWIX3LMV43URDJONRXK43TNFXW4Q3PNVWWK3TUHMYTEOJQGYZTCMI. You are receiving this because you were mentioned.Message ID: @.***>

    1. Glenn JocherUltralytics(изменено)

      @Beautifulboy111 150ms inference latency with NCNN on Raspberry Pi 5 is higher than expected. Here are some steps to reduce it:

      1. Use a smaller YOLO26 model - our benchmarks show YOLO26n is significantly faster than YOLO26s with NCNN on Pi 5 (67ms vs 173ms)

      2. Reduce input resolution - try 320x320 instead of 640x640, which can cut inference time by up to 70%

      3. Optimize memory allocation by running without GUI (Raspberry Pi OS Lite)

      4. Ensure you're using proper cooling for sustained performance when overclocked

      5. Consider processing at lower FPS if your application allows it

      Regarding @zyt2011's suggestion, while accelerators like Hailo can boost performance, they're a separate investment. I'd recommend optimizing your current setup first using the techniques in our Raspberry Pi guide.

      What's your specific use case? This would help us provide more targeted optimization advice.

  9. Beautifulboy111GitHub

    Why does my Raspberry Pi 5 have a high inference latency of 150ms when using NCNN for video recognition, even after overclocking? How can I reduce the inference time?