ONNX YOLOv8 모델용 내보내기

컴퓨터 비전 모델을 배포할 때는 유연하고 여러 플랫폼과 호환되는 모델 형식이 필요한 경우가 많습니다.

내보내기 Ultralytics YOLOv8 모델을 ONNX 형식으로 내보내면 배포를 간소화하고 다양한 환경에서 최적의 성능을 보장할 수 있습니다. 이 가이드에서는 YOLOv8 모델을 ONNX 로 쉽게 변환하고 실제 애플리케이션에서 확장성과 효율성을 향상시키는 방법을 보여 드립니다.

ONNX 및 ONNX 런타임

ONNX의 약자인 오픈 신경망 교환은 Facebook과 Microsoft가 처음에 개발한 커뮤니티 프로젝트입니다. ONNX 의 지속적인 개발은 IBM, Amazon(AWS를 통해), Google과 같은 다양한 조직에서 지원하는 공동의 노력입니다. 이 프로젝트는 머신러닝 모델을 다양한 AI 프레임워크와 하드웨어에서 사용할 수 있는 방식으로 표현하도록 설계된 개방형 파일 형식을 만드는 것을 목표로 합니다.

ONNX 모델을 사용하여 서로 다른 프레임워크 간에 원활하게 전환할 수 있습니다. 예를 들어 PyTorch 에서 학습된 딥 러닝 모델을 ONNX 형식으로 내보낸 다음 TensorFlow 로 쉽게 가져올 수 있습니다.

또는 ONNX 모델을 ONNX 런타임과 함께 사용할 수 있습니다. ONNX 런타임은 머신 러닝 모델을 위한 다목적 크로스 플랫폼 가속기로 PyTorch, TensorFlow, TFLite, scikit-learn 등과 같은 프레임워크와 호환됩니다.

ONNX 런타임은 하드웨어별 기능을 활용하여 ONNX 모델의 실행을 최적화합니다. 이러한 최적화를 통해 CPU, GPU, 특수 가속기 등 다양한 하드웨어 플랫폼에서 모델을 효율적으로 고성능으로 실행할 수 있습니다.

독립적으로 사용하든 ONNX 런타임과 함께 사용하든, ONNX 은 머신 러닝 모델 배포 및 호환성을 위한 유연한 솔루션을 제공합니다.

ONNX 모델의 주요 기능

ONNX 에서 다양한 형식을 처리할 수 있는 것은 다음과 같은 주요 기능 덕분입니다:

• 공통 모델 표현: ONNX 은 공통 연산자 집합(컨볼루션, 레이어 등)과 표준 데이터 형식을 정의합니다. 모델을 ONNX 형식으로 변환하면 해당 모델의 아키텍처와 가중치가 이 공통 표현으로 변환됩니다. 이러한 통일성을 통해 ONNX 을 지원하는 모든 프레임워크에서 모델을 이해할 수 있습니다.

• 버전 관리 및 이전 버전과의 호환성: ONNX 에서는 운영자를 위한 버전 관리 시스템을 유지 관리합니다. 이를 통해 표준이 발전하더라도 이전 버전에서 만든 모델을 계속 사용할 수 있습니다. 이전 버전과의 호환성은 모델이 빠르게 구식이 되는 것을 방지하는 중요한 기능입니다.

• 그래프 기반 모델 표현: ONNX 은 모델을 계산 그래프로 표현합니다. 이 그래프 기반 구조는 머신 러닝 모델을 표현하는 보편적인 방법으로, 노드는 연산 또는 계산을 나타내고 에지는 그 사이를 흐르는 텐서를 나타냅니다. 이 형식은 모델을 그래프로 표현하는 다양한 프레임워크에 쉽게 적용할 수 있습니다.

• 도구 및 에코시스템: ONNX 에는 모델 변환, 시각화 및 최적화를 지원하는 풍부한 도구 생태계가 있습니다. 이러한 도구를 사용하면 개발자가 ONNX 모델로 더 쉽게 작업하고 서로 다른 프레임워크 간에 모델을 원활하게 변환할 수 있습니다.

일반적인 사용법 ONNX

YOLOv8 모델을 ONNX 형식으로 내보내는 방법을 살펴보기 전에 ONNX 모델이 일반적으로 어디에 사용되는지 살펴보겠습니다.

CPU 배포

ONNX 모델은 ONNX 런타임과의 호환성 때문에 CPU에 배포되는 경우가 많습니다. 이 런타임은 CPU 실행에 최적화되어 있습니다. 추론 속도를 크게 향상시키고 실시간 CPU 배포를 가능하게 합니다.

지원되는 배포 옵션

ONNX 모델은 일반적으로 CPU에서 사용되지만 다음 플랫폼에도 배포할 수 있습니다:

• GPU 가속: ONNX 은 GPU 가속, 특히 NVIDIA CUDA를 완벽하게 지원합니다. 이를 통해 높은 연산 능력이 요구되는 작업을 NVIDIA GPU에서 효율적으로 실행할 수 있습니다.

• 엣지 및 모바일 디바이스: ONNX 는 엣지 및 모바일 디바이스로 확장되어 온디바이스 및 실시간 추론 시나리오에 적합합니다. 가볍고 엣지 하드웨어와 호환됩니다.

• 웹 브라우저: ONNX 웹 브라우저에서 직접 실행하여 대화형 및 동적 웹 기반 AI 애플리케이션을 구동할 수 있습니다.

YOLOv8 모델로 내보내기 ONNX

YOLOv8 모델을 ONNX 형식으로 변환하여 모델 호환성 및 배포 유연성을 확장할 수 있습니다.

설치

필요한 패키지를 설치하려면 실행합니다:

# Install the required package for YOLOv8
pip install ultralytics

설치 과정과 관련된 자세한 지침과 모범 사례는 YOLOv8 설치 가이드를 참조하세요. YOLOv8 에 필요한 패키지를 설치하는 동안 문제가 발생하면 일반적인 문제 가이드를 참조하여 해결 방법과 팁을 확인하세요.

사용법

사용 지침을 살펴보기 전에 Ultralytics 에서 제공하는 다양한 YOLOv8 모델을 확인하세요. 프로젝트 요구 사항에 가장 적합한 모델을 선택하는 데 도움이 될 것입니다.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to ONNX format
model.export(format='onnx')  # creates 'yolov8n.onnx'

# Load the exported ONNX model
onnx_model = YOLO('yolov8n.onnx')

# Run inference
results = onnx_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to ONNX format
yolo export model=yolov8n.pt format=onnx  # creates 'yolov8n.onnx'

# Run inference with the exported model
yolo predict model=yolov8n.onnx source='https://ultralytics.com/images/bus.jpg'

내보내기 프로세스에 대한 자세한 내용은 내보내기 관련 문서 페이지(Ultralytics )를 참조하세요.

내보낸 YOLOv8 ONNX 모델 배포

Ultralytics YOLOv8 모델을 ONNX 형식으로 성공적으로 내보냈다면 다음 단계는 이러한 모델을 다양한 환경에 배포하는 것입니다. ONNX 모델 배포에 대한 자세한 지침은 다음 리소스를 참조하세요:

• ONNX 런타임 Python API 문서: 이 가이드는 ONNX 런타임을 사용하여 ONNX 모델을 로드하고 실행하는 데 필요한 필수 정보를 제공합니다.

• 엣지 디바이스에 배포: 이 문서 페이지에서 ONNX 모델을 엣지에 배포하는 다양한 예시를 확인하세요.

• ONNX GitHub의 튜토리얼: 다양한 시나리오에서 ONNX 모델을 사용하고 구현하는 다양한 측면을 다루는 포괄적인 자습서 모음입니다.

요약

이 가이드에서는 Ultralytics YOLOv8 모델을 ONNX 형식으로 내보내 다양한 플랫폼에서 상호 운용성과 성능을 향상시키는 방법을 배웠습니다. 또한 ONNX 런타임 및 ONNX 배포 옵션에 대해서도 소개했습니다.

사용법에 대한 자세한 내용은 ONNX 공식 문서를 참조하세요.

또한 Ultralytics YOLOv8 통합에 대해 더 자세히 알고 싶다면 통합 가이드 페이지를 방문하세요. 유용한 리소스와 인사이트를 많이 찾을 수 있습니다.

댓글