YOLO Vision 2026:

快速入门指南:Raspberry Pi 与 Ultralytics YOLO26#

Raspberry Pi 是一个小型、价格实惠的计算机,它可以在边缘端运行 Ultralytics YOLO26 实现实时目标检测,且无需 GPU。本指南将带你在 Raspberry Pi 4 和 5 上部署 YOLO26:烧录操作系统、安装 Ultralytics、导出为 NCNN 以在 ARM 上获得最快的推理速度,以及在实时相机画面上运行预测。它还包含八种导出格式的性能基准测试,以便你为硬件选择最佳的速度与准确率折中方案。

跳转至设置 Ultralytics导出为 NCNN 并运行推理基准测试相机推理



Watch: Raspberry Pi 5 updates and improvements.
注意

本指南已在运行最新 Raspberry Pi OS Bookworm (Debian 12) 的 Raspberry Pi 4 和 Raspberry Pi 5 上进行了测试。只要安装了相同的 Raspberry Pi OS Bookworm,预计在更早的 Raspberry Pi 设备(如 Raspberry Pi 3)上也能正常使用。

什么是 Raspberry Pi?#

Raspberry Pi 是一款小型、经济实惠的单板计算机。它已广泛应用于从业余爱好者的家庭自动化到工业用途的各种项目和应用中。Raspberry Pi 板卡能够运行多种操作系统,并提供 GPIO(通用输入/输出)引脚,可以轻松与传感器、执行器和其他硬件组件集成。它们有不同的型号,规格各异,但都遵循低成本、紧凑且通用的基本设计理念。

Raspberry Pi 系列对比#

Raspberry Pi 3Raspberry Pi 4Raspberry Pi 5
CPUBroadcom BCM2837, Cortex-A53 64位 SoCBroadcom BCM2711, Cortex-A72 64位 SoCBroadcom BCM2712, Cortex-A76 64位 SoC
CPU 最高频率1.4GHz1.8GHz2.4GHz
GPUVideocore IVVideocore VIVideoCore VII
GPU 最高频率400Mhz500Mhz800Mhz
内存1GB LPDDR2 SDRAM1GB, 2GB, 4GB, 8GB LPDDR4-3200 SDRAM4GB, 8GB LPDDR4X-4267 SDRAM
PCIe不适用不适用1xPCIe 2.0 接口
最大功耗2.5A@5V3A@5V5A@5V (支持 PD)

什么是 Raspberry Pi OS?#

Raspberry Pi OS(原名 Raspbian)是一个基于 Debian GNU/Linux 发行版的类 Unix 操作系统,适用于由 Raspberry Pi 基金会分发的 Raspberry Pi 系列紧凑型单板计算机。Raspberry Pi OS 针对配备 ARM CPU 的 Raspberry Pi 进行了高度优化,并使用带有 Openbox 堆叠窗口管理器的修改版 LXDE 桌面环境。Raspberry Pi OS 正在积极开发中,重点是提高 Raspberry Pi 上尽可能多的 Debian 软件包的稳定性和性能。

将 Raspberry Pi OS 刷写到 Raspberry Pi#

拿到 Raspberry Pi 后要做的第一件事是使用 Raspberry Pi OS 烧录微型 SD 卡,将其插入设备并启动进入操作系统。请参考详细的由 Raspberry Pi 提供的入门文档来为首次使用准备你的设备。

设置 Ultralytics#

你可以通过两种方式在 Raspberry Pi 上设置 Ultralytics 软件包,以便开展你的下一个计算机视觉项目:

使用 Docker 开始#

在 Raspberry Pi 上开始使用 Ultralytics YOLO26 最快的方法是运行预构建的 Raspberry Pi Docker 镜像。

执行以下命令拉取 Docker 容器并在 Raspberry Pi 上运行。这基于 arm64v8/ubuntu Docker 镜像,该镜像在 Python3 环境中运行 Ubuntu 24.04。

t=ultralytics/ultralytics:latest-arm64
sudo docker pull $t && sudo docker run -it --ipc=host $t

Docker 镜像已包含 Ultralytics,因此你可以直接将模型导出为 NCNN

不使用 Docker 开始#

安装 Ultralytics 包#

在这里,我们将在 Raspberry Pi 上安装带有可选依赖项的 Ultralytics 软件包,以便能够将 PyTorch 模型导出为其他格式。

  1. 更新软件包列表,安装 pip 并升级到最新版本

    sudo apt update
    sudo apt install python3-pip -y
    pip install -U pip
  2. 安装带可选依赖项的 ultralytics pip 软件包

    pip install ultralytics[export]
  3. 重启设备

    sudo reboot

在 Raspberry Pi 上使用 NCNN#

在 Ultralytics 支持的所有模型导出格式中,NCNN 在 Raspberry Pi 设备上提供最佳的推理性能,因为它针对 ARM 架构等移动/嵌入式平台进行了高度优化。将你的 YOLO26n PyTorch 模型转换为 NCNN,然后使用导出的模型运行推理:

示例
from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format
model.export(format="ncnn")  # creates 'yolo26n_ncnn_model'

# Load the exported NCNN model
ncnn_model = YOLO("yolo26n_ncnn_model")

# Run inference
results = ncnn_model("https://ultralytics.com/images/bus.jpg")
提示

有关支持的导出选项的更多详细信息,请参阅模型部署选项指南

YOLO26 相比 YOLO11 的性能提升#

YOLO26 专为在硬件受限的设备(如 Raspberry Pi 5)上运行而设计。与 YOLO11n 相比,YOLO26n 在 Raspberry Pi 5 上使用 ONNX 导出模型时,在 640 输入尺寸下,FPS 提升了约 15%(6.79 → 7.79),同时提供了更高的 mAP(40.1 vs 39.5)。下表和图表展示了这一对比。

YOLO26 benchmarks on RPi 5
Benchmarked with Ultralytics 8.4.14
性能
模型mAP50-95(B)推理时间 (ms/im)
YOLO26n40.1128.42
YOLO26s47.8352.84
YOLO26m52.5993.78
YOLO26l54.41259.46
YOLO26x56.92636.26

使用 Ultralytics 8.4.14 进行基准测试。

Raspberry Pi 5 YOLO26 基准测试#

YOLO26 基准测试由 Ultralytics 团队在八种不同的模型格式上运行,测量速度和准确率:PyTorch、TorchScript、ONNX、OpenVINO、MNN、NCNN、ExecuTorch、LiteRT。基准测试是在 Raspberry Pi 5 上以 FP32 精度和默认输入图像大小 640 运行的。

对比图#

我们仅包含了 YOLO26n 和 YOLO26s 模型的基准测试,因为其他模型尺寸太大,无法在 Raspberry Pi 上运行,且无法提供理想的性能。

YOLO26 benchmarks on RPi 5
Benchmarked with Ultralytics 8.4.108

详细对比表#

下表展示了两种不同模型(YOLO26n、YOLO26s)在八种不同格式(PyTorch、TorchScript、ONNX、OpenVINO、MNN、NCNN、ExecuTorch、LiteRT)下的基准测试结果,这些模型在 Raspberry Pi 5 上运行,提供了每种组合的状态、大小、mAP50-95(B) 指标和推理时间。

性能
格式状态磁盘占用大小 (MB)mAP50-95(B)推理时间 (ms/im)
PyTorch5.30.4760299.09
TorchScript9.80.4734353.20
ONNX9.50.4734125.99
OpenVINO9.60.4734104.55
MNN9.40.474991.87
NCNN9.40.478467.03
ExecuTorch9.40.4772144.83
LiteRT9.80.4730123.30

使用 Ultralytics 8.4.108 进行基准测试

注意

推理时间不包含预处理/后处理。

重现我们的结果#

要在所有导出格式上复现上述 Ultralytics 基准测试,请运行此代码:

示例
from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

请注意,基准测试结果可能会因系统的确切硬件和软件配置以及运行基准测试时系统的当前工作负载而异。为了获得最可靠的结果,请使用包含大量图像的数据集,例如 data='coco.yaml'(5000 张验证图像)。

LiteRT 导出在设备外部运行

litert-converter 未提供 aarch64 Linux wheel,因此 format=litert 导出仅在 Linux x86_64 和 macOS 上支持,而不直接在 Raspberry Pi 上支持。请在 Linux x86_64 机器或 Mac 上导出 .tflite 模型,将其复制到 Raspberry Pi,然后使用 Pi 进行推理。

使用 Raspberry Pi 相机#

在将 Raspberry Pi 用于计算机视觉项目时,获取实时视频流以执行推理至关重要。Raspberry Pi 上的板载 MIPI CSI 连接器允许你连接官方的 Raspberry PI 相机模块。在本指南中,我们使用了 Raspberry Pi Camera Module 3 来获取视频流并使用 YOLO26 模型执行推理。

提示
注意

Raspberry Pi 5 使用比 Raspberry Pi 4 更小的 CSI 连接器(15针对 22针),因此你需要一根 15针转 22针适配器电缆才能连接 Raspberry Pi 相机。

测试相机#

将相机连接到 Raspberry Pi 后执行以下命令。你应该能看到来自相机的实时视频流,持续约 5 秒。

rpicam-hello
提示

官方 Raspberry Pi 文档中了解有关 rpicam-hello 用法的更多信息

使用相机进行推理#

有两种使用 Raspberry Pi 摄像头运行 YOLO26 模型推理的方法。

使用 Raspberry Pi 摄像头运行推理

我们可以使用 Raspberry Pi OS 预安装的 picamera2 来访问相机并在 YOLO26 模型上运行推理。

示例
import cv2
from picamera2 import Picamera2

from ultralytics import YOLO

# Initialize the Picamera2
picam2 = Picamera2()
picam2.preview_configuration.main.size = (1280, 720)
picam2.preview_configuration.main.format = "RGB888"
picam2.preview_configuration.align()
picam2.configure("preview")
picam2.start()

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

while True:
    # Capture frame-by-frame
    frame = picam2.capture_array()

    # Run YOLO26 inference on the frame
    results = model(frame)

    # Visualize the results on the frame
    annotated_frame = results[0].plot()

    # Display the resulting frame
    cv2.imshow("Camera", annotated_frame)

    # Break the loop if 'q' is pressed
    if cv2.waitKey(1) == ord("q"):
        break

# Release resources and close windows
cv2.destroyAllWindows()
提示

如果你想更改图像/视频输入类型,请查看我们关于推理源的文档

在 Raspberry Pi 上使用时的最佳实践#

为了在运行 YOLO26 的 Raspberry Pi 上实现最大性能,请遵循以下几项最佳实践。

  1. 使用 SSD

    当将 Raspberry Pi 用于 7x24 小时持续使用时,建议为系统使用 SSD,因为 SD 卡无法承受持续写入且可能会损坏。借助 Raspberry Pi 5 上的板载 PCIe 连接器,你现在可以使用诸如 Raspberry Pi 5 NVMe 基座之类的适配器连接 SSD。

  2. 无 GUI 刷写系统

    在刷写 Raspberry Pi OS 时,你可以选择不安装桌面环境(即 Raspberry Pi OS Lite),这可以节省设备内存,为计算机视觉处理腾出更多空间。

  3. 超频 Raspberry Pi

    如果你想在 Raspberry Pi 5 上运行 Ultralytics YOLO26 模型时获得性能提升,可以将 CPU 从基础频率 2.4GHz 超频至 2.9GHz,并将 GPU 从 800MHz 超频至 1GHz。如果系统变得不稳定或崩溃,请以 100MHz 为增量降低超频值。确保散热良好,因为超频会增加发热量并可能导致过热降频。

    a. 升级软件

    sudo apt update && sudo apt dist-upgrade

    b. 打开并编辑配置文件

    sudo nano /boot/firmware/config.txt

    c. 在底部添加以下行

    arm_freq=3000
    gpu_freq=1000
    force_turbo=1

    d. 按 CTRL + X,然后按 Y,再按 ENTER 保存并退出

    e. 重启 Raspberry Pi

后续步骤#

你已成功在 Raspberry Pi 上设置 YOLO26。要进一步了解,请探索用于更多推理选项的预测模式、用于其他部署格式的导出模式,或者在边缘端需要更多计算能力时参考NVIDIA Jetson 指南。有关完整文档,请访问 Ultralytics YOLO26 文档

致谢与引用#

本指南最初由 Daan Eeltink 为 Kashmir World Foundation 创建,该组织致力于利用 YOLO 保护濒危物种。我们感谢他们在对象检测技术领域的开创性工作和教育重点。

有关克什米尔世界基金会(Kashmir World Foundation)活动的更多信息,你可以访问他们的网站

常见问题解答#

  • 若要在没有 Docker 的情况下在 Raspberry Pi 上设置 Ultralytics YOLO26,请按照以下步骤操作:

    1. 更新软件包列表并安装 pip
      sudo apt update
      sudo apt install python3-pip -y
      pip install -U pip
    2. 安装包含可选依赖项的 Ultralytics 包:
      pip install ultralytics[export]
    3. 重启设备以应用更改:
      sudo reboot

    有关详细说明,请参阅不使用 Docker 开始部分。

  • Ultralytics YOLO26 的 NCNN 格式针对移动和嵌入式平台进行了高度优化,非常适合在 Raspberry Pi 设备上运行 AI 任务。NCNN 通过利用 ARM 架构最大限度地提高了推理性能,与其他格式相比,提供了更快、更高效的处理。有关支持的导出格式的更多详细信息,请参阅模型导出选项

  • 你可以使用 Python 或 CLI 命令将 PyTorch YOLO26 模型转换为 NCNN 格式:

    示例
    from ultralytics import YOLO
    
    # Load a YOLO26n PyTorch model
    model = YOLO("yolo26n.pt")
    
    # Export the model to NCNN format
    model.export(format="ncnn")  # creates 'yolo26n_ncnn_model'
    
    # Load the exported NCNN model
    ncnn_model = YOLO("yolo26n_ncnn_model")
    
    # Run inference
    results = ncnn_model("https://ultralytics.com/images/bus.jpg")

    有关更多详细信息,请参阅在 Raspberry Pi 上使用 NCNN 部分。

  • 主要区别包括:

    • CPU: Raspberry Pi 4 使用 Broadcom BCM2711,Cortex-A72 64 位 SoC;而 Raspberry Pi 5 使用 Broadcom BCM2712,Cortex-A76 64 位 SoC。
    • 最大 CPU 频率: Raspberry Pi 4 的最大频率为 1.8GHz,而 Raspberry Pi 5 可达到 2.4GHz。
    • 内存: Raspberry Pi 4 提供高达 8GB 的 LPDDR4-3200 SDRAM,而 Raspberry Pi 5 则采用 LPDDR4X-4267 SDRAM,有 4GB 和 8GB 版本。

    这些改进有助于 YOLO26 模型在 Raspberry Pi 5 上获得比 Raspberry Pi 4 更好的性能基准。有关更多详细信息,请参阅Raspberry Pi 系列比较表格。

  • 有两种设置 Raspberry Pi 摄像头进行 YOLO26 推理的方法:

    1. 使用 picamera2

      import cv2
      from picamera2 import Picamera2
      
      from ultralytics import YOLO
      
      picam2 = Picamera2()
      picam2.preview_configuration.main.size = (1280, 720)
      picam2.preview_configuration.main.format = "RGB888"
      picam2.preview_configuration.align()
      picam2.configure("preview")
      picam2.start()
      
      model = YOLO("yolo26n.pt")
      
      while True:
          frame = picam2.capture_array()
          results = model(frame)
          annotated_frame = results[0].plot()
          cv2.imshow("Camera", annotated_frame)
      
          if cv2.waitKey(1) == ord("q"):
              break
      
      cv2.destroyAllWindows()
    2. 使用 TCP 流

      rpicam-vid -n -t 0 --inline --listen -o tcp://127.0.0.1:8888
      from ultralytics import YOLO
      
      model = YOLO("yolo26n.pt")
      results = model("tcp://127.0.0.1:8888")

    有关详细的设置说明,请访问使用相机推理部分。

评论