开始使用

Ultralytics 集成

本页列出了 Ultralytics 集成的工具和平台,用于支持你的机器学习工作流,涵盖从数据集管理和模型训练到实验跟踪和部署。

Ultralytics YOLO ecosystem and integrations


观看: Ultralytics YOLO 部署与集成

导出格式#

  • 阿里巴巴 MNN:MNN 由阿里巴巴开发,是一种轻量级深度学习框架,适用于移动和嵌入式硬件上的设备端推理与训练。

  • Apple Core AI:了解 Apple 的新.aimodel格式、Core AI 与 Core ML 的对比及其当前限制,以及如何使用format="coreai"导出 YOLO26 模型,以适配 iOS 27 和 macOS 27 新一代系统。

  • Apple Core ML:Core ML 由Apple开发,是一个框架,旨在利用 Apple 硬件,将机器学习模型高效集成到 iOS、macOS、watchOS 和 tvOS 应用中,实现高效、安全的模型部署。

  • 百度 PaddlePaddle:PaddlePaddle 是百度推出的开源深度学习平台,支持 AI 模型部署,尤其适用于可扩展的工业应用。

  • ExecuTorch:由 Meta 开发的 ExecuTorch 是 PyTorch 提供的统一解决方案,可将 Ultralytics YOLO 模型部署到边缘设备上。

  • Google LiteRT:LiteRT(原名 TensorFlow Lite)由Google开发,是.tflite格式的设备端运行时,可将同一个模型部署到移动设备、嵌入式设备、边缘设备和浏览器(通过 LiteRT.js)。

  • Intel OpenVINO:Intel 的工具套件,用于在 Intel CPU、GPU 和 NPU 上优化和部署计算机视觉模型。

  • NVIDIA TensorRT:该高性能深度学习推理框架和模型格式由NVIDIA开发,可针对 NVIDIA GPU 优化 AI 模型的速度和效率。

  • ONNX:一种最初由微软和 Facebook 开发的开源格式,用于在框架之间传输 AI 模型,让 Ultralytics 模型能够在不同运行时和硬件上运行。

  • 腾讯 NCNN:NCNN 由腾讯开发,是一种针对移动设备优化的神经网络推理框架。它可以在各种移动平台上直接于应用内运行 AI 模型。

  • TF GraphDef:GraphDef 由 Google 开发,是 TensorFlow 用于表示计算图的格式,可在各种硬件上优化机器学习模型的执行。

  • TF SavedModel:TF SavedModel 由 Google开发,是一种用于序列化TensorFlow模型的格式,可在从服务器到边缘设备的各种平台上共享和部署模型。

  • TorchScript:TorchScript 作为 PyTorch 框架的一部分开发,无需依赖 Python,即可在各种生产环境中高效执行和部署机器学习模型。

下表列出了所有导出格式及其format参数:

格式format 参数模型元数据参数
PyTorch-yolo26n.pt✅-
TorchScripttorchscriptyolo26n.torchscript✅imgsz, quantize, dynamic, nms, batch, device
ONNXonnxyolo26n.onnx✅imgsz, quantize, dynamic, simplify, opset, nms, batch, data, fraction, device
OpenVINOopenvinoyolo26n_openvino_model/✅imgsz, quantize, dynamic, nms, batch, data, fraction, device
TensorRTengineyolo26n.engine✅imgsz, quantize, dynamic, simplify, opset, workspace, nms, batch, data, fraction, device
CoreMLcoremlyolo26n.mlpackage✅imgsz, dynamic, quantize, nms, batch, device
Apple Core AIcoreaiyolo26n.aimodel✅imgsz, batch, quantize
TF SavedModelsaved_modelyolo26n_saved_model/✅imgsz, quantize, opset, nms, batch, data, fraction, device
TF GraphDefpbyolo26n.pb❌imgsz, opset, batch, device
TF Edge TPUedgetpuyolo26n_edgetpu.tflite✅imgsz, quantize, opset, data, fraction, device
LiteRTlitertyolo26n.tflite✅imgsz, quantize, batch, data, fraction, device
PaddlePaddlepaddleyolo26n_paddle_model/✅imgsz, batch, device
MNNmnnyolo26n.mnn✅imgsz, batch, dynamic, quantize, simplify, opset, nms, device
NCNNncnnyolo26n_ncnn_model/✅imgsz, quantize, device
IMX500imxyolo11n_imx_model/✅imgsz, quantize, data, fraction, nms, device
RKNNrknnyolo26n_rknn_model/✅imgsz, batch, name, quantize, simplify, opset, data, fraction, device
ExecuTorchexecutorchyolo26n_executorch_model/✅imgsz, quantize, batch, data, fraction, device
Axeleraaxelerayolo26n_axelera_model/✅imgsz, batch, quantize, data, fraction, device
DEEPXdeepxyolo26n_deepx_model/✅imgsz, quantize, simplify, opset, data, optimize, device
Qualcomm QNNqnnyolo26n_qnn.onnx✅imgsz, batch, name, quantize, simplify, opset, data, fraction, device
Hailohailoyolo26n_hailo_model/✅imgsz, name, quantize, data, fraction, simplify, conf, iou, device
Huawei Ascendascendyolo26n_ascend_model/✅imgsz, batch, name, quantize, opset, simplify, nms, device
AMD Xilinxxilinxyolo26n_xilinx_model/✅imgsz, name, quantize, data, fraction, opset, simplify, device
NXPnxpyolo26n_nxp.tflite✅imgsz, quantize, data, fraction, device
ST Edge AIstedgeaiyolo26n_stedgeai.onnx✅imgsz, quantize, data, fraction, opset, simplify, device

nms=None 默认输出原始结果,以便进行外部 NMS(YOLO26 在 Axelera 上保留其无 NMS 检测头)。设置 nms=False 以选择可用的无 NMS 检测头;不支持的格式会回退到其原生输出路径。上方的 nms 条目指出可通过 nms=True 嵌入 NMS 的格式。

点击链接,了解各项集成的更多信息,以及如何充分利用这些集成功能来配合 Ultralytics 使用。请参阅 导出页面,了解完整的 export 详情。

硬件与设备#

  • Ambarella:使用 Ambarella 的 Ultralytics 分支,借助 SpongeTorch 感知压缩的训练和离线 CVflow 工具链,为 CV72 等 Ambarella CVflow® SoC 训练、压缩和导出 Ultralytics YOLO 模型。

  • AMD GPU:将 Ultralytics YOLO 导出为 ONNX,并通过 ROCm 上 ONNX Runtime 的 MIGraphX 执行提供程序,在 AMD Instinct 和 Radeon GPU 上运行 GPU 加速推理;同时也支持原生 PyTorch ROCm 训练。

  • AMD Xilinx:使用 format="xilinx" 导出 Ultralytics YOLO,以便在 AMD Versal AI Edge Series Gen 2 NPU 上运行;此流程使用 AMD Quark INT8 量化和 Vitis AI 编译,并介绍 Zynq、Kria 和 VEK280 目标设备。

  • Axelera AI:了解 Metis 加速器和 Voyager SDK,使用高效的边缘推理运行 Ultralytics 模型。

  • DEEPX:将 Ultralytics YOLO 模型导出为 DEEPX .dxnn 格式,以便在 DEEPX NPU 硬件上进行节能的 INT8 推理,适用于嵌入式和边缘 AI 应用。

  • Google Coral Edge TPU:这种模型格式由Google开发,用于优化 Edge TPU 上的 TensorFlow Lite 模型,可实现快速、高效的边缘计算。

  • Raspberry Pi 上的 Google Coral Edge TPU:Google Edge TPU可加速 Raspberry Pi上的 YOLO 推理。

  • Hailo:将 Ultralytics YOLO 检测、分割、语义分割、深度估计、分类、姿态和 OBB 模型直接导出为 Hailo HEF(目前尚不支持 YOLO26 分割、姿态和 OBB);请参阅集成指南,了解已验证的模型和目标设备。

  • Huawei Ascend:使用 CANN ATC 编译器将 Ultralytics YOLO 模型编译为 Huawei Ascend .om 离线格式,以便在 Atlas 和 Orange Pi AIpro 设备上进行 FP16 推理。

  • Luxonis OAK:使用 Luxonis Hub 或本地 Luxonis 工具转换 Ultralytics YOLO 模型,并在 Luxonis OAK RVC2 和 RVC4 摄像头上运行模型。

  • MediaTek Dimensity:使用LiteRT导出和官方 Flutter 插件,在搭载 MediaTek Dimensity 的 Android 手机上部署 Ultralytics YOLO,并查看实测 CPU、GPU 和原型 NPU 的结果。

  • NVIDIA DGX Spark:在 NVIDIA DGX Spark 设备上部署 YOLO 模型的快速入门指南。

  • NVIDIA Jetson:在 NVIDIA Jetson 设备上部署 YOLO 模型的快速入门指南。

  • NXP i.MX95:使用 Neutron SDK 3.3.0,为 i.MX95 Neutron NPU 编译经过校准的 INT8 YOLO 模型。

  • Qualcomm QNN:使用 ONNX Runtime QNN Execution Provider,在本地将 Ultralytics YOLO 模型编译为 QNN(AI Engine Direct)context-binary 格式,以便在 Snapdragon 和 Dragonwing 设备的 Hexagon NPU 上进行推理。

  • Raspberry Pi:在最新 Raspberry Pi 硬件上运行 YOLO 模型的快速入门教程。

  • Rockchip RKNN:RKNN 由瑞芯微开发,是一个针对瑞芯微硬件平台(尤其是其 NPU)优化的神经网络推理框架,可在边缘设备上实现实时 AI 推理。

  • Seeed Studio reCamera:reCamera 由矽递科技开发,是一款用于实时计算机视觉应用的边缘 AI 设备。它由基于 RISC-V 的 SG200X 处理器驱动,可高效运行 AI 推理;其模块化设计和视频处理能力适用于安全监控、环境应用和制造等场景。

  • Sony IMX500:在配备 IMX500 传感器的 Raspberry Pi AI Cameras 上优化和部署 Ultralytics YOLOv8n 和 YOLO11n 模型,实现快速、低功耗的性能。

  • ST Edge AI:使用 format="stedgeai" 将 Ultralytics YOLO 导出为浮点或 INT8 ONNX 模型,供 STMicroelectronics STM32 设备使用;在计算机上检查精度,然后使用 ST Edge AI Core 编译。

服务与流水线#

  • Intel DL Streamer:快速入门指南,介绍如何使用 DL Streamer 和 OpenVINO™ 在 Intel Core Ultra Series 3 设备上部署 YOLO26 模型。

  • NVIDIA DALI:使用 NVIDIA DALI 在 GPU 上执行 YOLO letterbox 缩放、填充和归一化,消除 CPU 预处理瓶颈,并集成 Triton Inference Server。

  • NVIDIA DeepStream:快速入门指南,介绍如何使用 DeepStream 和 TensorRT 在 NVIDIA Jetson 设备上部署 YOLO 模型。

  • NVIDIA Triton:将 Ultralytics YOLO26 集成到 NVIDIA Triton Inference Server,实现可扩展、高效的深度学习推理部署。

  • ROS:了解如何将 YOLO 集成到机器人操作系统(ROS),以便在机器人应用中实时检测目标,包括点云和深度图像。

数据与训练#

  • Albumentations:在 Ultralytics 训练期间应用额外的图像增强,以提升模型的鲁棒性和泛化能力。

  • ClearML:自动化 Ultralytics 机器学习工作流、跟踪实验,并开展团队协作。

  • Comet:通过跟踪、比较和优化机器学习实验,增强你使用 Ultralytics 进行模型开发的能力。

  • DVC:为 Ultralytics 机器学习项目实施版本控制,有效同步数据、代码和模型。

  • MLflow:简化 Ultralytics 模型的整个 ML 生命周期,涵盖实验、可复现性和部署。

  • Ray Tune:以任意规模为 Ultralytics 模型执行超参数调优。

  • Roboflow:为 Ultralytics 模型提供数据集标注和管理支持,并提供图像标注工具。

  • TensorBoard:可视化 Ultralytics 训练运行并监控模型指标。

  • Weights & Biases (W&B):监控实验、可视化指标,并促进 Ultralytics 项目的可复现性与协作。

云与笔记本#

  • Amazon SageMaker:使用 Amazon SageMaker 在一个平台上构建、训练和部署 Ultralytics 模型,覆盖整个机器学习生命周期。

  • Google Colab:使用 Google Colab 在支持协作和共享的云环境中训练和评估 Ultralytics 模型。

  • Google Vertex AI:简明指南,介绍如何使用 Docker 将 YOLO 模型容器化并部署到 Google Cloud Vertex AI,涵盖构建、推送、自动扩缩和监控。

  • IBM watsonx:在 IBM watsonx.ai 笔记本中训练和评估 Ultralytics 模型,并使用 IBM 的数据管理和模型治理工具。

  • JupyterLab:使用 JupyterLab 的交互式、可自定义环境训练和评估 Ultralytics 模型。

  • Kaggle:了解如何在基于云的环境中使用 Kaggle 训练和评估 Ultralytics 模型。该环境预装了库,支持 GPU,并拥有活跃的社区,便于协作和分享。

  • Microsoft AzureML:快速上手,在 Microsoft 的 Azure机器学习平台上使用 Ultralytics YOLO 模型。了解如何在云端训练、部署和扩展目标检测项目。

  • Modal:在 Modal 无服务器云平台上运行 Ultralytics 模型,享受自动配置 GPU、按秒计费,以及针对推理和训练工作负载的自动扩缩容。

  • Paperspace Gradient:使用 Paperspace Gradient 云 GPU 和笔记本训练、测试和部署 YOLO26 模型。

  • Ultralytics Platform:在浏览器中训练、管理和部署 Ultralytics 模型,并下载官方预训练模型和数据集。

开发者工具#

  • Agent Skills:通过涵盖数据集、训练、推理和导出的官方技能,让 Claude Code、Codex、Cursor 和 Gemini CLI 等 AI 编码代理掌握完整的 Ultralytics YOLO 工作流程。

  • Gradio:使用 Gradio 部署 Ultralytics 模型,构建实时交互式目标检测演示。

  • VS Code:适用于 VS Code 的扩展,提供代码片段以加快 Ultralytics 开发工作流程,并提供示例,帮助任何人学习或快速上手。

  • YAML2ModelGraph:直接根据 Ultralytics YOLO YAML 配置文件生成适用于出版物的 SVG 架构图。

为我们的集成项目贡献力量#

我们欢迎社区贡献将 Ultralytics YOLO 与其他技术、工具和平台集成的指南。如果你已成功将 YOLO 集成到新系统,或有值得分享的见解,可以考虑为我们的集成文档做出贡献。

撰写指南或教程,可以帮助扩展我们的文档,并提供让社区受益的真实案例。

如需贡献内容,请按照贡献指南中的说明提交拉取请求 (PR)。

常见问题#

  • Ultralytics Platform 是一个基于云的平台,支持使用 Ultralytics 模型开展端到端机器学习工作流。你可以上传和标注数据集、在云 GPU 上训练模型、跟踪实验,以及部署 YOLO 模型,无需编写大量代码。该平台是整个机器学习流水线的集中式工作空间,覆盖从数据准备到部署的各个环节。

  • 可以。将 MLflow 与 Ultralytics 模型集成后,你可以跟踪实验、提高可复现性,并简化整个 ML 生命周期。有关设置此集成的详细说明,请参阅 MLflow 集成页面。此集成特别适用于监控模型指标、比较不同的训练运行,以及高效管理 ML 工作流。MLflow 提供了一个集中式平台来记录参数、指标和制品,让你更轻松地了解模型行为并进行数据驱动的改进。

  • 如需使用 Gradio 部署 Ultralytics YOLO 模型并创建交互式目标检测演示,可以按照 Gradio 集成页面中的步骤操作。Gradio 可创建用于实时模型推理的 Web 界面,因此适合向开发者和终端用户展示 YOLO 模型。只需几行代码,你就能构建交互式应用,展示模型在自定义输入上的表现。

评论

提出问题、分享结果,或帮助其他人。