快速入门指南:Raspberry Pi 与 Ultralytics YOLO26#
Raspberry Pi 是一个小型、价格实惠的计算机,它可以在边缘端运行 Ultralytics YOLO26 实现实时目标检测,且无需 GPU。本指南将带你在 Raspberry Pi 4 和 5 上部署 YOLO26:烧录操作系统、安装 Ultralytics、导出为 NCNN 以在 ARM 上获得最快的推理速度,以及在实时相机画面上运行预测。它还包含八种导出格式的性能基准测试,以便你为硬件选择最佳的速度与准确率折中方案。
跳转至设置 Ultralytics、导出为 NCNN 并运行推理、基准测试或相机推理。
Watch: Raspberry Pi 5 updates and improvements.
本指南已在运行最新 Raspberry Pi OS Bookworm (Debian 12) 的 Raspberry Pi 4 和 Raspberry Pi 5 上进行了测试。只要安装了相同的 Raspberry Pi OS Bookworm,预计在更早的 Raspberry Pi 设备(如 Raspberry Pi 3)上也能正常使用。
什么是 Raspberry Pi?#
Raspberry Pi 是一款小型、经济实惠的单板计算机。它已广泛应用于从业余爱好者的家庭自动化到工业用途的各种项目和应用中。Raspberry Pi 板卡能够运行多种操作系统,并提供 GPIO(通用输入/输出)引脚,可以轻松与传感器、执行器和其他硬件组件集成。它们有不同的型号,规格各异,但都遵循低成本、紧凑且通用的基本设计理念。
Raspberry Pi 系列对比#
| Raspberry Pi 3 | Raspberry Pi 4 | Raspberry Pi 5 | |
|---|---|---|---|
| CPU | Broadcom BCM2837, Cortex-A53 64位 SoC | Broadcom BCM2711, Cortex-A72 64位 SoC | Broadcom BCM2712, Cortex-A76 64位 SoC |
| CPU 最高频率 | 1.4GHz | 1.8GHz | 2.4GHz |
| GPU | Videocore IV | Videocore VI | VideoCore VII |
| GPU 最高频率 | 400Mhz | 500Mhz | 800Mhz |
| 内存 | 1GB LPDDR2 SDRAM | 1GB, 2GB, 4GB, 8GB LPDDR4-3200 SDRAM | 4GB, 8GB LPDDR4X-4267 SDRAM |
| PCIe | 不适用 | 不适用 | 1xPCIe 2.0 接口 |
| 最大功耗 | 2.5A@5V | 3A@5V | 5A@5V (支持 PD) |
什么是 Raspberry Pi OS?#
Raspberry Pi OS(原名 Raspbian)是一个基于 Debian GNU/Linux 发行版的类 Unix 操作系统,适用于由 Raspberry Pi 基金会分发的 Raspberry Pi 系列紧凑型单板计算机。Raspberry Pi OS 针对配备 ARM CPU 的 Raspberry Pi 进行了高度优化,并使用带有 Openbox 堆叠窗口管理器的修改版 LXDE 桌面环境。Raspberry Pi OS 正在积极开发中,重点是提高 Raspberry Pi 上尽可能多的 Debian 软件包的稳定性和性能。
将 Raspberry Pi OS 刷写到 Raspberry Pi#
拿到 Raspberry Pi 后要做的第一件事是使用 Raspberry Pi OS 烧录微型 SD 卡,将其插入设备并启动进入操作系统。请参考详细的由 Raspberry Pi 提供的入门文档来为首次使用准备你的设备。
设置 Ultralytics#
你可以通过两种方式在 Raspberry Pi 上设置 Ultralytics 软件包,以便开展你的下一个计算机视觉项目:
使用 Docker 开始#
在 Raspberry Pi 上开始使用 Ultralytics YOLO26 最快的方法是运行预构建的 Raspberry Pi Docker 镜像。
执行以下命令拉取 Docker 容器并在 Raspberry Pi 上运行。这基于 arm64v8/ubuntu Docker 镜像,该镜像在 Python3 环境中运行 Ubuntu 24.04。
t=ultralytics/ultralytics:latest-arm64
sudo docker pull $t && sudo docker run -it --ipc=host $tDocker 镜像已包含 Ultralytics,因此你可以直接将模型导出为 NCNN。
不使用 Docker 开始#
安装 Ultralytics 包#
在这里,我们将在 Raspberry Pi 上安装带有可选依赖项的 Ultralytics 软件包,以便能够将 PyTorch 模型导出为其他格式。
-
更新软件包列表,安装 pip 并升级到最新版本
sudo apt update sudo apt install python3-pip -y pip install -U pip -
安装带可选依赖项的
ultralyticspip 软件包pip install ultralytics[export] -
重启设备
sudo reboot
在 Raspberry Pi 上使用 NCNN#
在 Ultralytics 支持的所有模型导出格式中,NCNN 在 Raspberry Pi 设备上提供最佳的推理性能,因为它针对 ARM 架构等移动/嵌入式平台进行了高度优化。将你的 YOLO26n PyTorch 模型转换为 NCNN,然后使用导出的模型运行推理:
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Export the model to NCNN format
model.export(format="ncnn") # creates 'yolo26n_ncnn_model'
# Load the exported NCNN model
ncnn_model = YOLO("yolo26n_ncnn_model")
# Run inference
results = ncnn_model("https://ultralytics.com/images/bus.jpg")有关支持的导出选项的更多详细信息,请参阅模型部署选项指南。
YOLO26 相比 YOLO11 的性能提升#
YOLO26 专为在硬件受限的设备(如 Raspberry Pi 5)上运行而设计。与 YOLO11n 相比,YOLO26n 在 Raspberry Pi 5 上使用 ONNX 导出模型时,在 640 输入尺寸下,FPS 提升了约 15%(6.79 → 7.79),同时提供了更高的 mAP(40.1 vs 39.5)。下表和图表展示了这一对比。
| 模型 | mAP50-95(B) | 推理时间 (ms/im) |
|---|---|---|
| YOLO26n | 40.1 | 128.42 |
| YOLO26s | 47.8 | 352.84 |
| YOLO26m | 52.5 | 993.78 |
| YOLO26l | 54.4 | 1259.46 |
| YOLO26x | 56.9 | 2636.26 |
使用 Ultralytics 8.4.14 进行基准测试。
Raspberry Pi 5 YOLO26 基准测试#
YOLO26 基准测试由 Ultralytics 团队在八种不同的模型格式上运行,测量速度和准确率:PyTorch、TorchScript、ONNX、OpenVINO、MNN、NCNN、ExecuTorch、LiteRT。基准测试是在 Raspberry Pi 5 上以 FP32 精度和默认输入图像大小 640 运行的。
对比图#
我们仅包含了 YOLO26n 和 YOLO26s 模型的基准测试,因为其他模型尺寸太大,无法在 Raspberry Pi 上运行,且无法提供理想的性能。
详细对比表#
下表展示了两种不同模型(YOLO26n、YOLO26s)在八种不同格式(PyTorch、TorchScript、ONNX、OpenVINO、MNN、NCNN、ExecuTorch、LiteRT)下的基准测试结果,这些模型在 Raspberry Pi 5 上运行,提供了每种组合的状态、大小、mAP50-95(B) 指标和推理时间。
| 格式 | 状态 | 磁盘占用大小 (MB) | mAP50-95(B) | 推理时间 (ms/im) |
|---|---|---|---|---|
| PyTorch | ✅ | 5.3 | 0.4760 | 299.09 |
| TorchScript | ✅ | 9.8 | 0.4734 | 353.20 |
| ONNX | ✅ | 9.5 | 0.4734 | 125.99 |
| OpenVINO | ✅ | 9.6 | 0.4734 | 104.55 |
| MNN | ✅ | 9.4 | 0.4749 | 91.87 |
| NCNN | ✅ | 9.4 | 0.4784 | 67.03 |
| ExecuTorch | ✅ | 9.4 | 0.4772 | 144.83 |
| LiteRT | ✅ | 9.8 | 0.4730 | 123.30 |
使用 Ultralytics 8.4.108 进行基准测试
推理时间不包含预处理/后处理。
重现我们的结果#
要在所有导出格式上复现上述 Ultralytics 基准测试,请运行此代码:
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)请注意,基准测试结果可能会因系统的确切硬件和软件配置以及运行基准测试时系统的当前工作负载而异。为了获得最可靠的结果,请使用包含大量图像的数据集,例如 data='coco.yaml'(5000 张验证图像)。
litert-converter 未提供 aarch64 Linux wheel,因此 format=litert 导出仅在 Linux x86_64 和 macOS 上支持,而不直接在 Raspberry Pi 上支持。请在 Linux x86_64 机器或 Mac 上导出 .tflite 模型,将其复制到 Raspberry Pi,然后使用 Pi 进行推理。
使用 Raspberry Pi 相机#
在将 Raspberry Pi 用于计算机视觉项目时,获取实时视频流以执行推理至关重要。Raspberry Pi 上的板载 MIPI CSI 连接器允许你连接官方的 Raspberry PI 相机模块。在本指南中,我们使用了 Raspberry Pi Camera Module 3 来获取视频流并使用 YOLO26 模型执行推理。
了解有关Raspberry Pi 提供的不同相机模块以及如何开始使用 Raspberry Pi 相机模块的更多信息。
Raspberry Pi 5 使用比 Raspberry Pi 4 更小的 CSI 连接器(15针对 22针),因此你需要一根 15针转 22针适配器电缆才能连接 Raspberry Pi 相机。
测试相机#
将相机连接到 Raspberry Pi 后执行以下命令。你应该能看到来自相机的实时视频流,持续约 5 秒。
rpicam-hello在官方 Raspberry Pi 文档中了解有关 rpicam-hello 用法的更多信息
使用相机进行推理#
有两种使用 Raspberry Pi 摄像头运行 YOLO26 模型推理的方法。
我们可以使用 Raspberry Pi OS 预安装的 picamera2 来访问相机并在 YOLO26 模型上运行推理。
import cv2
from picamera2 import Picamera2
from ultralytics import YOLO
# Initialize the Picamera2
picam2 = Picamera2()
picam2.preview_configuration.main.size = (1280, 720)
picam2.preview_configuration.main.format = "RGB888"
picam2.preview_configuration.align()
picam2.configure("preview")
picam2.start()
# Load the YOLO26 model
model = YOLO("yolo26n.pt")
while True:
# Capture frame-by-frame
frame = picam2.capture_array()
# Run YOLO26 inference on the frame
results = model(frame)
# Visualize the results on the frame
annotated_frame = results[0].plot()
# Display the resulting frame
cv2.imshow("Camera", annotated_frame)
# Break the loop if 'q' is pressed
if cv2.waitKey(1) == ord("q"):
break
# Release resources and close windows
cv2.destroyAllWindows()如果你想更改图像/视频输入类型,请查看我们关于推理源的文档
在 Raspberry Pi 上使用时的最佳实践#
为了在运行 YOLO26 的 Raspberry Pi 上实现最大性能,请遵循以下几项最佳实践。
-
使用 SSD
当将 Raspberry Pi 用于 7x24 小时持续使用时,建议为系统使用 SSD,因为 SD 卡无法承受持续写入且可能会损坏。借助 Raspberry Pi 5 上的板载 PCIe 连接器,你现在可以使用诸如 Raspberry Pi 5 NVMe 基座之类的适配器连接 SSD。
-
无 GUI 刷写系统
在刷写 Raspberry Pi OS 时,你可以选择不安装桌面环境(即 Raspberry Pi OS Lite),这可以节省设备内存,为计算机视觉处理腾出更多空间。
-
超频 Raspberry Pi
如果你想在 Raspberry Pi 5 上运行 Ultralytics YOLO26 模型时获得性能提升,可以将 CPU 从基础频率 2.4GHz 超频至 2.9GHz,并将 GPU 从 800MHz 超频至 1GHz。如果系统变得不稳定或崩溃,请以 100MHz 为增量降低超频值。确保散热良好,因为超频会增加发热量并可能导致过热降频。
a. 升级软件
sudo apt update && sudo apt dist-upgradeb. 打开并编辑配置文件
sudo nano /boot/firmware/config.txtc. 在底部添加以下行
arm_freq=3000 gpu_freq=1000 force_turbo=1d. 按 CTRL + X,然后按 Y,再按 ENTER 保存并退出
e. 重启 Raspberry Pi
后续步骤#
你已成功在 Raspberry Pi 上设置 YOLO26。要进一步了解,请探索用于更多推理选项的预测模式、用于其他部署格式的导出模式,或者在边缘端需要更多计算能力时参考NVIDIA Jetson 指南。有关完整文档,请访问 Ultralytics YOLO26 文档。
致谢与引用#
本指南最初由 Daan Eeltink 为 Kashmir World Foundation 创建,该组织致力于利用 YOLO 保护濒危物种。我们感谢他们在对象检测技术领域的开创性工作和教育重点。
有关克什米尔世界基金会(Kashmir World Foundation)活动的更多信息,你可以访问他们的网站。
常见问题解答#
若要在没有 Docker 的情况下在 Raspberry Pi 上设置 Ultralytics YOLO26,请按照以下步骤操作:
- 更新软件包列表并安装
pip:sudo apt update sudo apt install python3-pip -y pip install -U pip - 安装包含可选依赖项的 Ultralytics 包:
pip install ultralytics[export] - 重启设备以应用更改:
sudo reboot
有关详细说明,请参阅不使用 Docker 开始部分。
- 更新软件包列表并安装
Ultralytics YOLO26 的 NCNN 格式针对移动和嵌入式平台进行了高度优化,非常适合在 Raspberry Pi 设备上运行 AI 任务。NCNN 通过利用 ARM 架构最大限度地提高了推理性能,与其他格式相比,提供了更快、更高效的处理。有关支持的导出格式的更多详细信息,请参阅模型导出选项。
你可以使用 Python 或 CLI 命令将 PyTorch YOLO26 模型转换为 NCNN 格式:
示例from ultralytics import YOLO # Load a YOLO26n PyTorch model model = YOLO("yolo26n.pt") # Export the model to NCNN format model.export(format="ncnn") # creates 'yolo26n_ncnn_model' # Load the exported NCNN model ncnn_model = YOLO("yolo26n_ncnn_model") # Run inference results = ncnn_model("https://ultralytics.com/images/bus.jpg")有关更多详细信息,请参阅在 Raspberry Pi 上使用 NCNN 部分。
主要区别包括:
- CPU: Raspberry Pi 4 使用 Broadcom BCM2711,Cortex-A72 64 位 SoC;而 Raspberry Pi 5 使用 Broadcom BCM2712,Cortex-A76 64 位 SoC。
- 最大 CPU 频率: Raspberry Pi 4 的最大频率为 1.8GHz,而 Raspberry Pi 5 可达到 2.4GHz。
- 内存: Raspberry Pi 4 提供高达 8GB 的 LPDDR4-3200 SDRAM,而 Raspberry Pi 5 则采用 LPDDR4X-4267 SDRAM,有 4GB 和 8GB 版本。
这些改进有助于 YOLO26 模型在 Raspberry Pi 5 上获得比 Raspberry Pi 4 更好的性能基准。有关更多详细信息,请参阅Raspberry Pi 系列比较表格。
有两种设置 Raspberry Pi 摄像头进行 YOLO26 推理的方法:
-
使用
picamera2:import cv2 from picamera2 import Picamera2 from ultralytics import YOLO picam2 = Picamera2() picam2.preview_configuration.main.size = (1280, 720) picam2.preview_configuration.main.format = "RGB888" picam2.preview_configuration.align() picam2.configure("preview") picam2.start() model = YOLO("yolo26n.pt") while True: frame = picam2.capture_array() results = model(frame) annotated_frame = results[0].plot() cv2.imshow("Camera", annotated_frame) if cv2.waitKey(1) == ord("q"): break cv2.destroyAllWindows() -
使用 TCP 流:
rpicam-vid -n -t 0 --inline --listen -o tcp://127.0.0.1:8888from ultralytics import YOLO model = YOLO("yolo26n.pt") results = model("tcp://127.0.0.1:8888")
有关详细的设置说明,请访问使用相机推理部分。
-