使用 Ultralytics YOLO 进行模型导出#

使用 Ultralytics 将 YOLO26 模型导出为 ONNX 格式非常简单。它提供了用于导出模型的 Python 和 CLI 方法。

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

有关该过程的更多详细信息（包括处理不同输入大小等高级选项），请参考 ONNX 集成指南。

使用 TensorRT 进行模型导出可带来显著的性能提升。导出为 TensorRT 的 YOLO26 模型可实现高达 5 倍的 GPU 加速，非常适合实时推理应用。

• 多功能性： 针对特定硬件配置优化模型。
• 速度： 通过高级优化实现更快的推理。
• 兼容性： 与 NVIDIA 硬件无缝集成。

要了解有关集成 TensorRT 的更多信息，请参阅 TensorRT 集成指南。

INT8 量化是压缩模型和加速推理的绝佳方式，特别是在边缘设备上。以下是你如何启用 INT8 量化的方法：

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

INT8 量化可以应用于 ONNX、TensorRT、OpenVINO、CoreML 和 Rockchip RKNN 等格式。为了获得最佳量化效果，请使用 data 参数提供一个具有代表性的 dataset。有关接受的 quantize 值和支持的格式，请参阅量化选项。

动态输入大小允许导出的模型处理不同的图像尺寸，从而为不同的用例提供灵活性并优化处理效率。当导出到 ONNX 或 TensorRT 等格式时，启用动态输入大小可确保模型能够无缝适应不同的输入形状。

要启用此功能，请在导出期间使用 dynamic=True 标志：

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

动态输入大小对于输入尺寸可能会变化的应用程序特别有用，例如视频处理或处理来自不同来源的图像时。

理解和配置导出参数对于优化模型性能至关重要：

• format: 导出模型的目标格式（例如 onnx、torchscript、tensorflow）。
• imgsz: 模型输入的期望图像大小（例如 640 或 (height, width)）。
• quantize: 量化精度，例如 8/"int8"、16/"fp16"、32/"fp32"，或者在受支持的格式上的混合权重/激活方案 "w8a16" 和 "w8a32"（LiteRT 动态 INT8）。请参阅量化选项。
• optimize: 为 DEEPX 导出启用更高的编译器优化。

对于在特定硬件平台上的部署，请考虑使用专门的导出格式，例如用于 NVIDIA GPU 的 TensorRT、用于 Apple 设备的 CoreML 或用于 Google Coral 设备的 Edge TPU。

当你将 YOLO 模型导出为 ONNX 或 TensorRT 等格式时，输出张量结构取决于模型任务。理解这些输出对于自定义推理实现很重要。

对于 YOLO26 检测模型（例如 yolo26n.pt），支持该功能的格式默认启用端到端导出，因此输出形状类似于 (batch_size, max_detections, 6)，并带有 [x1, y1, x2, y2, confidence, class_id] 值。在默认的 max_det=300 下，这通常是 (batch_size, 300, 6)。当不支持端到端算子时，某些受限制的格式会自动回退到传统的输出布局。

对于非端到端检测模型，或者通过 end2end=False 导出的 YOLO26 模型，其输出通常是一个形状为 (batch_size, 4 + num_classes, num_predictions) 的单个张量，其中通道表示边界框坐标加上每个类别的得分，而 num_predictions 取决于导出的输入分辨率（并且可以动态变化）。端到端检测指南介绍了哪些格式会保留端到端输出。

对于分割模型（例如 yolo26n-seg.pt），你通常会得到两个输出：形状类似于 (batch_size, 4 + num_classes + mask_dim, num_predictions) 的第一个张量（包含框、类别得分和掩码系数），以及形状类似于 (batch_size, mask_dim, proto_h, proto_w) 的第二个张量，其中包含与系数配合使用以生成实例掩码的掩码原型。大小取决于导出输入分辨率（并且可以是动态的）。

对于姿态模型（例如 yolo26n-pose.pt），输出张量的形状通常类似于 (batch_size, 4 + num_classes + keypoint_dims, num_predictions)，其中 keypoint_dims 取决于姿态规范（例如关键点数量以及是否包含置信度），而 num_predictions 取决于导出输入分辨率（并且可以是动态的）。

ONNX 推理示例中的示例演示了如何针对每种模型类型处理这些输出。

Ultralytics 目前不提供专为 YOLO 模型设计的 C++ 推理 API。对于 C++ 部署，请将模型 导出为运行时格式，例如 ONNX、TensorRT、 TorchScript 或 MNN，然后使用 该运行时的原生 C++ API 加载导出的构件。

例如，使用 yolo export model=yolo26n.pt format=onnx 导出检测模型并运行 .onnx 文件与 ONNX Runtime C++，或者使用 format=engine 导出并从 TensorRT C++ 应用程序运行 TensorRT 引擎。当你 使用自定义 C++ 后处理时，请匹配你的任务和导出设置的输出张量布局；YOLO26 端到端 检测导出通常返回 (batch, max_det, 6)，而非端到端导出返回需要外部后处理的原始预测张量。

当使用 quantize=16（FP16）或 quantize=8（INT8）导出时，大多数张量会转换为较低精度以减小模型大小并提高性能。但是，当启用 end2end=True 时，后处理（包括类别索引）将直接嵌入到导出的图中。

output0 张量包含类别索引，它们在内部表示为浮点值。由于尾数精度有限，FP16 无法可靠地表示大于 2048 的整数值。为了避免潜在的精度损失或错误的类别 ID，output0 有意保持为 FP32。

此行为是预期的，也适用于必须保持类索引保真度的低精度或量化导出。

如果需要完整的 FP16 输出，请使用 end2end=False 进行导出并在外部执行后处理。