使用 Ultralytics YOLO 导出模型#

使用 Ultralytics 将 YOLO26 模型导出为 ONNX 格式非常简单。它同时提供了用于导出模型的 Python 和 CLI 方法。

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

有关该过程的更多详细信息（包括处理不同输入大小等高级选项），请参阅 ONNX 集成指南。

使用 TensorRT 进行模型导出可带来显着的性能提升。导出到 TensorRT 的 YOLO26 模型可以实现高达 5 倍的 GPU 提速，使其成为实时推理应用的理想选择。

• 通用性： 为特定的硬件设置优化模型。
• 速度： 通过高级优化实现更快的推理。
• 兼容性： 与 NVIDIA 硬件顺利集成。

要了解有关集成 TensorRT 的更多信息，请参阅 TensorRT 集成指南。

INT8 量化是压缩模型和加速推理（尤其是在边缘设备上）的绝佳方法。以下是如何启用 INT8 量化的方法：

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

INT8 量化可应用于诸如 ONNX、TensorRT、OpenVINO、CoreML 和 Rockchip RKNN 等格式。为了获得最佳量化结果，请使用 data 参数提供代表性数据集。有关接受的 quantize 值和支持的格式，请参阅量化选项。

动态输入大小允许导出的模型处理不同的图像尺寸，从而针对不同的用例提供灵活性并优化处理效率。导出到 ONNX 或 TensorRT 等格式时，启用动态输入大小可确保模型能够无缝适应不同的输入形状。

要启用此功能，请在导出过程中使用 dynamic=True 标志：

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

动态输入大小调整对于输入尺寸可能变化的应用程序特别有用，例如视频处理或处理来自不同来源的图像。

理解和配置导出参数对于优化模型性能至关重要：

• format: 导出模型的目标格式（例如 onnx、torchscript、saved_model）。
• imgsz: 模型输入的期望图像大小（例如 640 或 (height, width)）。
• quantize: 量化精度，例如 8/"int8"、16/"fp16"、32/"fp32"，或者在受支持格式上的混合权重/激活方案 "w8a16" 和 "w8a32"（LiteRT 动态 INT8）。请参阅量化选项。
• optimize: 为 DEEPX 导出启用更高的编译器优化。

要在特定的硬件平台上部署，请考虑使用专门的导出格式，例如用于 NVIDIA GPU 的 TensorRT、用于 Apple 设备的 CoreML 或用于 Google Coral 设备的 Edge TPU。

当你将 YOLO 模型导出为 ONNX 或 TensorRT 等格式时，输出张量结构取决于模型任务。理解这些输出对于自定义推理实现非常重要。

对于使用 nms=False 导出的 YOLO26 检测模型（例如 yolo26n.pt），支持的格式会产生形状类似 (batch_size, max_detections, 6) 且带有 [x1, y1, x2, y2, confidence, class_id] 值的无 NMS 输出。在使用默认的 max_det=300 时，这通常是 (batch_size, 300, 6)。当不支持端到端算子时，某些受限的格式会自动回退到传统的输出布局。

默认情况下（nms=None），包括 YOLO26 在内的检测模型会导出原始的一对多预测结果：输出通常是一个形状为 (batch_size, 4 + num_classes, num_predictions) 的单个张量，其中通道代表边界框坐标外加每个类别的得分，并且 num_predictions 取决于导出输入分辨率（并且可以是动态的）。End-to-End Detection guide 涵盖了哪些格式会保留端到端输出。

对于分割模型（例如 yolo26n-seg.pt），你通常会得到两个输出：形状类似于 (batch_size, 4 + num_classes + mask_dim, num_predictions) 的第一个张量（包含边界框、类得分和掩码系数），以及形状类似于 (batch_size, mask_dim, proto_h, proto_w) 的第二个张量，其中包含与系数一起用于生成实例掩码的掩码原型。大小取决于导出输入分辨率（并且可以是动态的）。

对于姿态模型（例如 yolo26n-pose.pt），输出张量的形状通常类似于 (batch_size, 4 + num_classes + keypoint_dims, num_predictions)，其中 keypoint_dims 取决于姿态规范（例如关键点数量以及是否包含置信度），而 num_predictions 取决于导出输入分辨率（并且可以是动态的）。

ONNX 推理示例中的示例演示了如何为每种模型类型处理这些输出。

Ultralytics 目前不提供用于 YOLO 模型的专用 C++ 推理 API。对于 C++ 部署，请将模型导出为运行时格式，例如 ONNX、TensorRT、TorchScript 或 MNN，然后使用该运行时的原生 C++ API 加载导出的工件。

例如，使用 yolo export model=yolo26n.pt format=onnx 导出检测模型并用 ONNX Runtime C++ 运行 .onnx 文件，或者使用 format=engine 导出并从 TensorRT C++ 应用程序运行 TensorRT 引擎。当你使用自定义的 C++ 后处理时，请匹配针对你的任务和导出设置的输出张量布局；默认的 YOLO26 检测导出返回的是需要外部 NMS 的原始预测张量。使用 nms=False 导出可获得形状为 (batch, max_det, 6) 的无 NMS 检测结果，或者使用 nms=True 在支持的格式中嵌入 NMS。

当使用 quantize=16（FP16）或 quantize=8（INT8）导出时，大多数张量都会转换为较低精度，以减小模型大小并提高性能。但是，当启用 nms=False 时，后处理（包括类索引）会直接嵌入到导出的图中。

output0 张量包含类索引，这些索引在内部表示为浮点值。由于其有限的尾数精度，FP16 无法可靠地表示大于 2048 的整数值。为避免潜在的精度损失或不正确的类 ID，output0 被故意保持为 FP32。

此行为是预期的，并且也适用于必须保留类索引保真度的低精度或量化导出。

如果需要完整的 FP16 输出，请使用 nms=None 进行导出并在外部执行后处理。