빠른 배포를 위한 YOLO26 모델의 TorchScript 내보내기#

Python 없이 C++ 환경에 컴퓨터 비전 모델을 배포하려면 이식 가능한 직렬화 표현이 필요합니다. TorchScript는 레거시 LibTorch 애플리케이션에 이러한 호환성을 제공합니다.

Ultralytics YOLO26 모델을 직렬화하여 플랫폼 간 호환성과 간소화된 배포를 구현하려면 TorchScript로 내보냅니다. 이 가이드에서는 YOLO26 모델을 TorchScript 형식으로 내보내 다양한 애플리케이션에서 더 쉽게 사용하는 방법을 설명합니다.

TorchScript로 내보내야 하는 이유는 무엇인가요?#

PyTorch 개발자가 만든 TorchScript는 다양한 플랫폼에서 PyTorch 모델을 최적화하고 배포하기 위한 강력한 도구입니다. YOLO26 모델을 TorchScript로 내보내는 것은 연구에서 실제 애플리케이션으로 전환하는 데 중요합니다. PyTorch 프레임워크의 일부인 TorchScript는 Python을 지원하지 않는 환경에서도 PyTorch 모델을 사용할 수 있도록 하여 이러한 전환을 원활하게 지원합니다.

이 과정에는 트레이싱과 스크립팅이라는 두 가지 기법이 사용됩니다. 트레이싱은 모델 실행 중 연산을 기록하고, 스크립팅은 Python의 일부 기능을 사용하여 모델을 정의할 수 있도록 합니다. 이러한 기법을 사용하면 YOLO26과 같은 모델을 일반적인 Python 환경 밖에서도 계속 사용할 수 있습니다.

TorchScript 모델은 연산자 융합 및 메모리 사용 개선과 같은 기법을 통해 최적화할 수 있어 효율적인 실행이 가능합니다. TorchScript로 내보내는 또 다른 장점은 다양한 하드웨어 플랫폼에서 모델 실행을 가속화할 수 있다는 점입니다. 이를 통해 PyTorch 모델을 C++ 환경에 통합할 수 있는 독립형 프로덕션용 표현으로 만들 수 있습니다.

TorchScript 모델의 주요 기능#

PyTorch 생태계의 핵심 구성 요소인 TorchScript는 딥러닝 모델을 최적화하고 배포하기 위한 강력한 기능을 제공합니다.

다음은 TorchScript를 개발자에게 유용한 도구로 만드는 주요 기능입니다:

• 정적 그래프 실행: TorchScript는 모델 계산을 정적 그래프로 표현하며, 이는 PyTorch의 동적 그래프 실행과 다릅니다. 정적 그래프 실행에서는 실제 실행 전에 계산 그래프를 한 번 정의하고 컴파일하므로 추론 중 성능이 향상됩니다.

• 모델 직렬화: TorchScript를 사용하면 PyTorch 모델을 플랫폼에 독립적인 형식으로 직렬화할 수 있습니다. 직렬화된 모델은 원본 Python 코드 없이 로드할 수 있으므로 다양한 런타임 환경에 배포할 수 있습니다.

• JIT 컴파일: TorchScript는 Just-In-Time (JIT) 컴파일을 사용하여 PyTorch 모델을 최적화된 중간 표현으로 변환합니다. JIT는 모델의 계산 그래프를 컴파일하여 대상 디바이스에서 효율적으로 실행할 수 있도록 합니다.

• 점진적 변환: TorchScript는 PyTorch 모델의 일부를 점진적으로 TorchScript로 변환할 수 있는 점진적 변환 방식을 제공합니다. 이러한 유연성은 복잡한 모델을 다루거나 코드의 특정 부분을 최적화하려는 경우에 특히 유용합니다.

TorchScript의 배포 옵션#

YOLO26 모델을 TorchScript 형식으로 내보내는 코드를 살펴보기 전에 TorchScript 모델이 일반적으로 어디에 사용되는지 알아보겠습니다.

TorchScript는 머신러닝 모델을 위한 다음과 같은 다양한 배포 옵션을 제공합니다:

• C++ API: TorchScript의 가장 일반적인 사용 사례는 LibTorch C++ API입니다. 이를 사용하면 최적화된 TorchScript 모델을 C++ 애플리케이션 내에서 직접 로드하고 실행할 수 있습니다. Python이 적합하지 않거나 사용할 수 없는 프로덕션 환경에 이상적입니다. C++ API는 TorchScript 모델을 낮은 오버헤드로 효율적으로 실행하여 성능 잠재력을 극대화합니다.

• 모바일 배포: 모바일 디바이스에서 지연 시간이 짧은 오프라인 추론과 데이터 개인정보 보호를 구현하려면 PyTorch의 TorchScript Mobile 대체 기술인 ExecuTorch를 사용합니다.

• 클라우드 배포: TorchServe와 같은 솔루션을 사용하여 TorchScript 모델을 클라우드 기반 서버에 배포할 수 있습니다. TorchServe는 프로덕션 환경에서 확장 가능한 배포를 위해 모델 버전 관리, 배칭, 메트릭 모니터링과 같은 기능을 제공합니다. TorchScript를 사용한 클라우드 배포를 통해 API 또는 기타 웹 서비스를 통해 모델에 액세스할 수 있습니다.

지원되는 작업#

TorchScript 내보내기는 Ultralytics의 7가지 태스크를 모두 지원합니다. 시맨틱 세그멘테이션과 깊이 추정은 해당 헤드를 제공하는 유일한 모델 제품군인 YOLO26에서만 사용할 수 있습니다.

TorchScript로 내보내기: YOLO26 모델 변환#

YOLO26 모델을 TorchScript로 내보내면 다양한 환경에서 더 쉽게 사용할 수 있으며 더 빠르고 효율적으로 실행할 수 있습니다. 따라서 실제 애플리케이션에서 딥러닝 모델을 더욱 효과적으로 사용하려는 경우에 유용합니다.

설치#

필요한 package를 설치하려면 다음을 실행하십시오:

# Install the required package for YOLO26
pip install ultralytics

설치 과정에 대한 자세한 지침과 모범 사례는 Ultralytics 설치 가이드를 확인하세요. YOLO26에 필요한 패키지를 설치하는 동안 문제가 발생하면 해결 방법과 팁이 포함된 일반적인 문제 가이드를 참조하세요.

사용법#

모든 Ultralytics YOLO26 모델은 기본적으로 Export를 지원하도록 설계되어 있어 선호하는 배포 워크플로에 쉽게 통합할 수 있습니다. 애플리케이션에 가장 적합한 설정을 선택하려면 지원되는 전체 Export 형식 및 구성 옵션 목록을 확인할 수 있습니다.

TorchScript 형식은 내보내기, 예측, 검증 모드를 지원합니다. 모델을 내보낸 다음 내보낸 모델을 로드하여 추론을 실행하거나 정확도를 검증합니다.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

from ultralytics import YOLO

# Load the exported TorchScript model
model = YOLO("yolo26n.torchscript")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TorchScript model
model = YOLO("yolo26n.torchscript")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

내보내기 인수#

내보내기 프로세스에 대한 자세한 내용은 Ultralytics 내보내기 문서 페이지를 참조하십시오.

내보낸 YOLO26 TorchScript 모델 배포#

Ultralytics YOLO26 모델을 TorchScript 형식으로 성공적으로 내보냈다면 이제 배포할 수 있습니다. TorchScript 모델을 실행하기 위한 기본적이고 권장되는 첫 단계는 이전 사용 코드 예제에 설명된 대로 YOLO("model.torchscript") 메서드를 사용하는 것입니다. 다른 환경에서 TorchScript 모델을 배포하는 자세한 지침은 다음 리소스를 참조하세요:

• 모바일 배포 살펴보기: 현재 PyTorch 모바일 배포에는 ExecuTorch의 별도 torch.export() → .pte 파이프라인을 사용합니다.

• 서버 측 배포 마스터하기: 확장 가능하고 효율적인 모델 서빙을 위한 단계별 튜토리얼을 통해 TorchServe로 서버 측에 모델을 배포하는 방법을 알아봅니다.

• C++ 배포 구현하기: C++에서 TorchScript 모델을 로드하는 튜토리얼을 살펴보고 TorchScript 모델을 C++ 애플리케이션에 통합하여 성능과 유연성을 향상하는 방법을 알아봅니다.

요약#

이 가이드에서는 Ultralytics YOLO26 모델을 TorchScript 형식으로 내보내는 과정을 살펴보았습니다. 제공된 지침을 따르면 성능에 맞게 YOLO26 모델을 최적화하고 다양한 플랫폼과 환경에 유연하게 배포할 수 있습니다.

사용법에 대한 자세한 내용은 TorchScript 공식 문서를 참조하세요.

또한 다른 Ultralytics YOLO26 통합에 대해 자세히 알아보려면 통합 가이드 페이지를 방문하십시오. 이곳에서 유용한 리소스와 정보를 확인할 수 있습니다.

FAQ#