배포를 위해 TFLite로 모델 내보내기( YOLOv8 )에 대한 가이드

엣지 디바이스나 임베디드 디바이스에 컴퓨터 비전 모델을 배포하려면 원활한 성능을 보장할 수 있는 형식이 필요합니다.

TensorFlow Lite 또는 TFLite 내보내기 형식을 사용하면 모델을 최적화할 수 있습니다. Ultralytics YOLOv8 모델을 엣지 디바이스 기반 애플리케이션에서 물체 감지 및 이미지 분류와 같은 작업에 최적화할 수 있습니다. 이 가이드에서는 다양한 에지 디바이스에서 모델이 더 쉽게 작동할 수 있도록 모델을 TFLite 형식으로 변환하는 단계를 안내합니다.

TFLite로 내보내야 하는 이유는 무엇인가요?

2017년 5월 Google이 TensorFlow 프레임워크의 일부로 도입한 TensorFlow Lite 또는 줄여서 TFLite는 엣지 컴퓨팅이라고도 하는 온디바이스 추론을 위해 설계된 오픈 소스 딥 러닝 프레임워크입니다. 개발자에게 모바일, 임베디드, IoT 기기는 물론 기존 컴퓨터에서 학습된 모델을 실행하는 데 필요한 도구를 제공합니다.

TensorFlow Lite는 임베디드 Linux, Android, iOS, MCU 등 다양한 플랫폼과 호환됩니다. 모델을 TFLite로 내보내면 애플리케이션을 더 빠르고 안정적으로 오프라인에서 실행할 수 있습니다.

TFLite 모델의 주요 기능

TFLite 모델은 개발자가 모바일, 임베디드 및 에지 디바이스에서 모델을 실행할 수 있도록 지원하여 온디바이스 머신 러닝을 가능하게 하는 다양한 주요 기능을 제공합니다:

• 온디바이스 최적화: TFLite는 온디바이스 ML에 최적화되어 데이터를 로컬에서 처리하여 대기 시간을 줄이고, 개인 데이터를 전송하지 않음으로써 개인 정보를 보호하며, 모델 크기를 최소화하여 공간을 절약합니다.

• 다양한 플랫폼 지원: TFLite는 광범위한 플랫폼 호환성을 제공하여 Android, iOS, 임베디드 Linux 및 마이크로컨트롤러를 지원합니다.

• 다양한 언어 지원: TFLite는 Java, Swift, Objective-C, C++ 및 Python 를 포함한 다양한 프로그래밍 언어와 호환됩니다.

• 고성능: 하드웨어 가속 및 모델 최적화를 통해 뛰어난 성능을 달성합니다.

TFLite의 배포 옵션

YOLOv8 모델을 TFLite 형식으로 내보내는 코드를 살펴보기 전에 TFLite 모델이 일반적으로 어떻게 사용되는지 이해해 보겠습니다.

TFLite는 다음과 같은 머신러닝 모델을 위한 다양한 온디바이스 배포 옵션을 제공합니다:

• Android 및 iOS로 배포하기: TFLite를 사용하는 Android 및 iOS 애플리케이션은 모두 에지 기반 카메라 피드와 센서를 분석하여 물체를 감지하고 식별할 수 있습니다. TFLite는 Swift 및 Objective-C로 작성된 기본 iOS 라이브러리도 제공합니다. 아래 아키텍처 다이어그램은 학습된 모델을 Android 및 iOS 플랫폼에 배포하는 프로세스를 보여줍니다( TensorFlow Lite).

• 임베디드 Linux로 구현하기: Ultralytics 가이드에 따라 라즈베리 파이에서 추론을 실행해도 사용 사례의 속도 요구 사항을 충족하지 못하는 경우, 내보낸 TFLite 모델을 사용하여 추론 시간을 단축할 수 있습니다. 또한 Coral Edge TPU 장치를 활용하여 성능을 더욱 향상시킬 수 있습니다.

• 마이크로컨트롤러와 함께 배포: TFLite 모델은 메모리가 몇 킬로바이트에 불과한 마이크로컨트롤러 및 기타 디바이스에도 배포할 수 있습니다. 코어 런타임은 Arm Cortex M3에서 16KB에 불과하며 많은 기본 모델을 실행할 수 있습니다. 운영 체제 지원, 표준 C 또는 C++ 라이브러리, 동적 메모리 할당이 필요하지 않습니다.

TFLite로 내보내기: YOLOv8 모델 변환하기

온디바이스 모델 실행 효율을 개선하고 TFLite 형식으로 변환하여 성능을 최적화할 수 있습니다.

설치

필요한 패키지를 설치하려면 실행합니다:

# Install the required package for YOLOv8
pip install ultralytics

설치 과정과 관련된 자세한 지침과 모범 사례는 Ultralytics 설치 가이드를 참조하세요. YOLOv8 에 필요한 패키지를 설치하는 동안 문제가 발생하면 일반적인 문제 가이드를 참조하여 해결 방법과 팁을 확인하세요.

사용법

사용 지침을 살펴보기 전에 모든 Ultralytics YOLOv8 모델에서 내보내기를 사용할 수 있지만, 선택한 모델이 내보내기 기능을 지원하는지 여기에서 확인할 수 있다는 점에 유의하세요.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TFLite format
model.export(format='tflite') # creates 'yolov8n_float32.tflite'

# Load the exported TFLite model
tflite_model = YOLO('yolov8n_float32.tflite')

# Run inference
results = tflite_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TFLite format
yolo export model=yolov8n.pt format=tflite  # creates 'yolov8n_float32.tflite'

# Run inference with the exported model
yolo predict model='yolov8n_float32.tflite' source='https://ultralytics.com/images/bus.jpg'

내보내기 프로세스에 대한 자세한 내용은 내보내기 관련 문서 페이지(Ultralytics )를 참조하세요.

내보낸 YOLOv8 TFLite 모델 배포하기

Ultralytics YOLOv8 모델을 TFLite 형식으로 성공적으로 내보낸 후에는 이제 배포할 수 있습니다. TFLite 모델을 실행하기 위한 기본적이고 권장되는 첫 번째 단계는 이전 사용 코드 스니펫에 설명된 대로 YOLO("model.tflite") 메서드를 활용하는 것입니다. 그러나 다른 다양한 설정에서 TFLite 모델을 배포하는 방법에 대한 자세한 지침은 다음 리소스를 참조하세요:

• Android: TensorFlow Lite를 Android 애플리케이션에 통합하기 위한 빠른 시작 가이드로, 머신 러닝 모델을 설정하고 실행하기 위한 단계를 쉽게 따라할 수 있습니다.

• iOS: 단계별 지침과 리소스를 제공하는 개발자용 상세 가이드( TensorFlow )에서 iOS 애플리케이션의 라이트 모델 통합 및 배포에 대한 자세한 내용을 확인하세요.

• 엔드투엔드 예시: 이 페이지에서는 개발자가 모바일 및 엣지 디바이스에서 머신 러닝 프로젝트에 TensorFlow Lite를 구현하는 데 도움이 되도록 설계된 실용적인 애플리케이션과 튜토리얼을 보여주는 다양한 TensorFlow Lite 예제에 대한 개요를 제공합니다.

요약

이 가이드에서는 TFLite 형식으로 내보내는 방법에 중점을 두었습니다. Ultralytics YOLOv8 모델을 TFLite 모델 형식으로 변환하면 YOLOv8 모델의 효율성과 속도를 개선하여 보다 효과적이고 엣지 컴퓨팅 환경에 적합하게 만들 수 있습니다.

사용법에 대한 자세한 내용은 TFLite의 공식 문서를 참조하세요.

또한 다른 Ultralytics YOLOv8 연동 기능에 대해 궁금한 점이 있다면 연동 가이드 페이지를 확인해 보세요. 유용한 정보와 인사이트가 가득합니다.

댓글