Ultralytics YOLO 모델 내보내기#

Ultralytics를 사용하면 YOLO26 모델을 ONNX 포맷으로 쉽게 내보낼 수 있습니다. 모델을 내보내기 위한 Python 및 CLI 방법을 모두 제공합니다.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

다양한 입력 크기 처리와 같은 고급 옵션을 포함한 프로세스에 대한 자세한 내용은 ONNX 통합 가이드를 참조하십시오.

모델 내보내기에 TensorRT를 사용하면 상당한 성능 향상을 얻을 수 있습니다. TensorRT로 내보낸 YOLO26 모델은 최대 5배의 GPU 속도 향상을 달성할 수 있어 실시간 추론 애플리케이션에 이상적입니다.

• 다재다능함: 특정 하드웨어 설정에 맞게 모델을 최적화합니다.
• 속도: 고급 최적화를 통해 더 빠른 추론을 달성합니다.
• 호환성: NVIDIA 하드웨어와 원활하게 통합됩니다.

TensorRT 통합에 대해 자세히 알아보려면 TensorRT 통합 가이드를 참조하십시오.

INT8 양자화는 특히 엣지 디바이스에서 모델을 압축하고 추론 속도를 높이는 훌륭한 방법입니다. INT8 양자화를 활성화하는 방법은 다음과 같습니다:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

INT8 양자화는 ONNX, TensorRT, OpenVINO, CoreML, Rockchip RKNN과 같은 포맷에 적용할 수 있습니다. 최적의 양자화 결과를 얻으려면 data 매개변수를 사용하여 대표 데이터셋을 제공하십시오. 허용되는 quantize 값과 지원되는 포맷에 대해서는 양자화 옵션을 참조하십시오.

동적 입력 크기를 사용하면 내보낸 모델이 다양한 이미지 크기를 처리할 수 있어 유연성을 제공하고 다양한 사용 사례에 대한 처리 효율성을 최적화할 수 있습니다. ONNX 또는 TensorRT와 같은 포맷으로 내보낼 때 동적 입력 크기를 활성화하면 모델이 다양한 입력 형태에 원활하게 적응할 수 있습니다.

이 기능을 활성화하려면 내보내는 동안 dynamic=True 플래그를 사용하십시오:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

동적 입력 크기 조정은 비디오 처리나 다양한 소스의 이미지를 처리할 때와 같이 입력 치수가 달라질 수 있는 애플리케이션에 특히 유용합니다.

모델 성능을 최적화하려면 내보내기 인수를 이해하고 구성하는 것이 매우 중요합니다:

• format: 내보낸 모델의 대상 포맷입니다 (예: onnx, torchscript, saved_model).
• imgsz: 모델 입력에 원하는 이미지 크기입니다 (예: 640 또는 (height, width)).
• quantize: 8/"int8", 16/"fp16", 32/"fp32" 같은 양자화 정밀도, 또는 지원되는 포맷에서의 혼합 가중치/활성화 방식 "w8a16" 및 "w8a32"(LiteRT 동적 INT8)입니다. 양자화 옵션을 참조하십시오.
• optimize: DEEPX 내보내기를 위한 더 높은 컴파일러 최적화를 활성화합니다.

특정 하드웨어 플랫폼에 배포하려면 NVIDIA GPU용 TensorRT, Apple 디바이스용 CoreML, 또는 Google Coral 디바이스용 Edge TPU와 같은 특수 내보내기 포맷 사용을 고려하십시오.

YOLO 모델을 ONNX 또는 TensorRT와 같은 포맷으로 내보낼 때 출력 텐서 구조는 모델 작업에 따라 다릅니다. 이러한 출력을 이해하는 것은 사용자 지정 추론 구현에 중요합니다.

nms=False(으)로 내보낸 YOLO26 감지 모델(예: yolo26n.pt)의 경우, 지원되는 포맷은 [x1, y1, x2, y2, confidence, class_id] 값과 함께 (batch_size, max_detections, 6) 형태의 NMS가 필요 없는 출력을 생성합니다. 기본값인 max_det=300를 사용할 경우 이는 일반적으로 (batch_size, 300, 6)(이)가 됩니다. 일부 제약이 있는 포맷은 엔드투엔드 연산자가 지원되지 않을 때 자동으로 기존 출력 레이아웃으로 대체됩니다.

기본적으로(nms=None) YOLO26을 포함한 감지 모델은 원시 일대다(one-to-many) 예측을 내보냅니다. 출력은 일반적으로 채널이 박스 좌표와 클래스별 점수를 나타내는 (batch_size, 4 + num_classes, num_predictions) 형태의 단일 텐서이며, num_predictions은(는) 내보내기 입력 해상도에 따라 다릅니다(동적일 수도 있습니다). End-to-End Detection 가이드에서는 엔드투엔드 출력을 유지하는 포맷을 다룹니다.

세분화 모델(예: yolo26n-seg.pt)의 경우 일반적으로 두 개의 출력을 얻게 됩니다. 첫 번째 텐서는 (batch_size, 4 + num_classes + mask_dim, num_predictions)(상자, 클래스 점수 및 마스크 계수) 형태이며, 두 번째 텐서는 계수와 함께 사용하여 인스턴스 마스크를 생성하는 데 사용되는 마스크 프로토타입을 포함하는 (batch_size, mask_dim, proto_h, proto_w) 형태입니다. 크기는 내보내기 입력 해상도에 따라 다릅니다(동적일 수 있음).

자세 추정 모델(예: yolo26n-pose.pt)의 경우 출력 텐서는 일반적으로 (batch_size, 4 + num_classes + keypoint_dims, num_predictions) 형태이며, keypoint_dims는 자세 사양(예: 키포인트 수 및 신뢰도 포함 여부)에 따라 다르고, num_predictions은 내보내기 입력 해상도에 따라 다릅니다(동적일 수 있음).

ONNX 추론 예시의 예시에서는 각 모델 유형에 대해 이러한 출력을 처리하는 방법을 보여줍니다.

Ultralytics는 현재 YOLO 모델을 위한 전용 C++ 추론 API를 제공하지 않습니다. C++ 배포의 경우, 모델을 ONNX, TensorRT, TorchScript 또는 MNN과 같은 런타임 포맷으로 내보낸 다음 해당 런타임의 기본 C++ API로 내보낸 아티팩트를 로드하십시오.

예를 들어, yolo export model=yolo26n.pt format=onnx(으)로 감지 모델을 내보내고 ONNX Runtime C++로 .onnx 파일을 실행하거나, format=engine(으)로 내보내고 TensorRT C++ 애플리케이션에서 TensorRT 엔진을 실행하십시오. 사용자 정의 C++ 후처리를 사용할 때는 태스크 및 내보내기 설정에 맞게 출력 텐서 레이아웃을 일치시키십시오. 기본 YOLO26 감지 내보내기는 외부 NMS가 필요한 원시 예측 텐서를 반환합니다. nms=False(으)로 내보내어 (batch, max_det, 6) 형태의 NMS가 필요 없는 감지 결과를 얻거나, nms=True(으)로 내보내어 지원되는 포맷에 NMS를 내장할 수 있습니다.

quantize=16(FP16) 또는 quantize=8(INT8)로 내보낼 때 모델 크기를 줄이고 성능을 향상시키기 위해 대부분의 텐서가 낮은 정밀도로 변환됩니다. 그러나 nms=False가 활성화되면 클래스 인덱스를 포함한 후처리가 내보낸 그래프에 직접 임베디드됩니다.

output0 텐서에는 클래스 인덱스가 포함되어 있으며, 이는 내부적으로 부동 소수점 값으로 표현됩니다. FP16은 제한된 가수 정밀도로 인해 2048을 초과하는 정수 값을 안정적으로 표현할 수 없습니다. 잠재적인 정밀도 손실이나 잘못된 클래스 ID를 방지하기 위해 output0은 의도적으로 FP32로 유지됩니다.

이 동작은 예상된 것이며 클래스 인덱스 충실도를 유지해야 하는 저정밀도 또는 양자화된 내보내기에도 적용됩니다.

전체 FP16 출력이 필요한 경우 nms=None으로 내보내고 후처리를 외부에서 수행하십시오.