Link to this sectionYOLO26 모델의 TFLite 배포용 내보내기 가이드#
엣지 디바이스나 임베디드 디바이스에 컴퓨터 비전 모델을 배포하려면 원활한 성능을 보장할 수 있는 형식이 필요합니다.
The TensorFlow Lite or TFLite export format allows you to optimize your Ultralytics YOLO26 models for tasks like object detection and image classification in edge device-based applications. In this guide, we'll walk through the steps for converting your models to the TFLite format, making it easier for your models to perform well on various edge devices.
Link to this sectionTFLite로 내보내야 하는 이유는 무엇인가요?#
2017년 5월 Google이 TensorFlow 프레임워크의 일부로 도입한 TensorFlow Lite(줄여서 TFLite)는 엣지 컴퓨팅이라고도 불리는 온디바이스 추론을 위해 설계된 오픈소스 딥러닝 프레임워크입니다. 개발자는 이를 사용하여 모바일, 임베디드 및 IoT 디바이스와 일반 컴퓨터에서 학습된 모델을 실행하는 데 필요한 도구를 얻을 수 있습니다.
TensorFlow Lite는 임베디드 Linux, Android, iOS 및 마이크로컨트롤러(MCU)를 포함한 다양한 플랫폼과 호환됩니다. 모델을 TFLite로 내보내면 애플리케이션이 더 빨라지고 신뢰성이 높아지며 오프라인에서도 실행할 수 있게 됩니다.
Link to this sectionTFLite 모델의 주요 기능#
TFLite 모델은 개발자가 모바일, 임베디드 및 엣지 디바이스에서 모델을 실행할 수 있도록 지원하여 온디바이스 머신 러닝을 가능하게 하는 다양한 핵심 기능을 제공합니다.
-
온디바이스 최적화: TFLite는 온디바이스 ML에 최적화되어 데이터를 로컬에서 처리하여 지연 시간을 줄이고, 개인 데이터를 전송하지 않아 프라이버시를 강화하며, 모델 크기를 최소화하여 공간을 절약합니다.
-
다중 플랫폼 지원: TFLite는 Android, iOS, 임베디드 Linux 및 마이크로컨트롤러를 지원하여 광범위한 플랫폼 호환성을 제공합니다.
-
다양한 언어 지원: TFLite는 Java, Swift, Objective-C, C++, Python을 포함한 다양한 프로그래밍 언어와 호환됩니다.
-
고성능: 하드웨어 가속 및 모델 최적화를 통해 뛰어난 성능을 달성합니다.
Link to this sectionTFLite의 배포 옵션#
YOLO26 모델을 TFLite 형식으로 내보내는 코드를 살펴보기 전에, TFLite 모델이 일반적으로 어떻게 사용되는지 알아보겠습니다.
TFLite는 머신 러닝 모델을 위해 다음과 같은 다양한 온디바이스 배포 옵션을 제공합니다.
- Android 및 iOS 배포: TFLite가 포함된 Android 및 iOS 애플리케이션은 엣지 기반 카메라 피드와 센서를 분석하여 객체를 감지하고 식별할 수 있습니다. TFLite는 Swift 및 Objective-C로 작성된 네이티브 iOS 라이브러리도 제공합니다. 아래 아키텍처 다이어그램은 TensorFlow Lite를 사용하여 학습된 모델을 Android 및 iOS 플랫폼에 배포하는 과정을 보여줍니다.
-
Implementing with Embedded Linux: If running inferences on a Raspberry Pi using the Ultralytics Guide does not meet the speed requirements for your use case, you can use an exported TFLite model to accelerate inference times. Additionally, it's possible to further improve performance by utilizing a Coral Edge TPU device.
-
마이크로컨트롤러 배포: TFLite 모델은 단 몇 킬로바이트의 메모리만으로도 마이크로컨트롤러 및 기타 디바이스에 배포할 수 있습니다. 코어 런타임은 Arm Cortex M3에서 16KB만 차지하며 많은 기본 모델을 실행할 수 있습니다. 운영 체제 지원, 표준 C 또는 C++ 라이브러리 또는 동적 메모리 할당이 필요하지 않습니다.
Link to this sectionTFLite로 내보내기: YOLO26 모델 변환하기#
모델을 TFLite 형식으로 변환하여 온디바이스 모델 실행 효율성을 높이고 성능을 최적화할 수 있습니다.
Link to this section설치#
필수 패키지를 설치하려면 다음을 실행하십시오:
# Install the required package for YOLO26
pip install ultralytics설치 과정과 관련된 자세한 지침 및 모범 사례는 Ultralytics 설치 가이드를 확인하십시오. YOLO26을 위한 필수 패키지를 설치하는 동안 어려움이 발생하면 일반 문제 가이드에서 해결 방법과 팁을 확인하시기 바랍니다.
Link to this section사용법#
모든 Ultralytics YOLO26 모델은 즉시 내보내기를 지원하도록 설계되어 있어, 선호하는 배포 워크플로우에 쉽게 통합할 수 있습니다. 지원되는 내보내기 형식 및 구성 옵션 전체 목록을 확인하여 애플리케이션에 가장 적합한 설정을 선택하십시오.
TFLite 형식은 내보내기, 예측 및 검증 모드를 지원합니다. 모델을 내보낸 다음, 내보낸 모델을 로드하여 추론을 실행하거나 정확도를 검증하십시오.
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite format
model.export(format="tflite") # creates 'yolo26n_float32.tflite'from ultralytics import YOLO
# Load the exported TFLite model
model = YOLO("yolo26n_float32.tflite")
# Run inference
results = model("https://ultralytics.com/images/bus.jpg")from ultralytics import YOLO
# Load the exported TFLite model
model = YOLO("yolo26n_float32.tflite")
# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")Link to this section내보내기 인수#
| 인수 | 유형 | 기본값 | 설명 |
|---|---|---|---|
format | str | 'tflite' | 내보낸 모델의 대상 형식으로, 다양한 배포 환경과의 호환성을 정의합니다. |
imgsz | int 또는 tuple | 640 | 모델 입력에 필요한 이미지 크기입니다. 정사각형 이미지의 경우 정수를 사용하거나, 특정 치수의 경우 튜플 (height, width)을 사용할 수 있습니다. |
half | bool | False | FP16(반정밀도) 양자화를 활성화하여 모델 크기를 줄이고 지원되는 하드웨어에서 추론 속도를 잠재적으로 향상시킵니다. |
int8 | bool | False | INT8 양자화를 활성화하여 모델을 추가로 압축하고 정확도 손실을 최소화하면서 추론 속도를 높입니다. 주로 에지 디바이스에 사용됩니다. |
nms | bool | False | 정확하고 효율적인 탐지 후처리에 필수적인 NMS(Non-Maximum Suppression)를 추가합니다. |
batch | int | 1 | 내보낸 모델의 추론 배치 크기나 predict 모드에서 내보낸 모델이 동시에 처리할 최대 이미지 수를 지정합니다. |
data | str | 'coco8.yaml' | 양자화에 필수적인 데이터셋 구성 파일 경로(기본값: coco8.yaml)입니다. |
fraction | float | 1.0 | INT8 양자화 보정에 사용할 데이터셋의 비율을 지정합니다. 전체 데이터셋의 일부만 사용하여 보정할 수 있어 실험 시나 리소스가 제한된 경우에 유용합니다. INT8이 활성화된 상태에서 지정하지 않으면 전체 데이터셋이 사용됩니다. |
device | str | None | 내보내기를 위한 장치를 지정합니다: CPU (device=cpu), Apple 실리콘용 MPS (device=mps). |
내보내기 프로세스에 대한 자세한 내용은 내보내기에 관한 Ultralytics 문서 페이지를 방문하십시오.
Link to this section내보낸 YOLO26 TFLite 모델 배포하기#
Ultralytics YOLO26 모델을 성공적으로 TFLite 형식으로 내보낸 후 이제 배포할 수 있습니다. TFLite 모델을 실행하는 가장 기본적이고 권장되는 첫 번째 단계는 이전 사용 코드 스니펫에서 설명한 대로 YOLO("model.tflite") 메서드를 사용하는 것입니다. 하지만 TFLite 모델을 다른 다양한 환경에 배포하는 방법에 대한 자세한 지침은 다음 리소스를 참조하십시오.
-
Android: TensorFlow Lite를 Android 애플리케이션에 통합하기 위한 퀵 스타트 가이드로, 머신 러닝 모델을 설정하고 실행하는 과정을 따라 하기 쉽게 설명합니다.
-
iOS: iOS 애플리케이션에 TensorFlow Lite 모델을 통합하고 배포하려는 개발자를 위한 상세 가이드를 확인하여 단계별 지침과 리소스를 확인하십시오.
-
엔드 투 엔드 예제: 이 페이지에서는 모바일 및 엣지 디바이스의 머신 러닝 프로젝트에서 개발자가 TensorFlow Lite를 구현하는 데 도움이 되도록 설계된 실제 애플리케이션과 튜토리얼을 포함한 다양한 TensorFlow Lite 예제에 대한 개요를 제공합니다.
Link to this section요약#
이 가이드에서는 TFLite 형식으로 내보내는 방법에 중점을 두었습니다. Ultralytics YOLO26 모델을 TFLite 모델 형식으로 변환하면 YOLO26 모델의 효율성과 속도를 향상하여 엣지 컴퓨팅 환경에 더욱 효과적이고 적합하게 만들 수 있습니다.
사용법에 대한 자세한 내용은 TFLite 공식 문서를 방문하십시오.
또한 다른 Ultralytics YOLO26 통합에 대해 궁금한 점이 있으면 통합 가이드 페이지를 확인하십시오. 유용한 정보와 통찰력을 많이 얻으실 수 있습니다.
Link to this sectionFAQ#
Link to this sectionYOLO26 모델을 TFLite 형식으로 내보내려면 어떻게 해야 하나요?#
YOLO26 모델을 TFLite 형식으로 내보내려면 Ultralytics 라이브러리를 사용할 수 있습니다. 먼저 필요한 패키지를 설치하십시오:
pip install ultralytics그런 다음, 다음 코드 스니펫을 사용하여 모델을 내보내십시오:
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite format
model.export(format="tflite") # creates 'yolo26n_float32.tflite'CLI 사용자의 경우 다음을 통해 수행할 수 있습니다:
yolo export model=yolo26n.pt format=tflite # creates 'yolo26n_float32.tflite'더 자세한 내용은 Ultralytics 내보내기 가이드를 참조하십시오.
Link to this sectionYOLO26 모델 배포에 TensorFlow Lite를 사용하면 어떤 이점이 있나요?#
TensorFlow Lite(TFLite)는 온디바이스 추론을 위해 설계된 오픈소스 딥러닝 프레임워크로, 모바일, 임베디드 및 IoT 디바이스에 YOLO26 모델을 배포하는 데 이상적입니다. 주요 이점은 다음과 같습니다.
- 온디바이스 최적화: 데이터를 로컬에서 처리하여 지연 시간을 최소화하고 프라이버시를 강화합니다.
- 플랫폼 호환성: Android, iOS, 임베디드 Linux 및 MCU를 지원합니다.
- 성능: 하드웨어 가속을 활용하여 모델 속도와 효율성을 최적화합니다.
자세한 내용은 TFLite 가이드를 확인하십시오.
Link to this sectionRaspberry Pi에서 YOLO26 TFLite 모델을 실행할 수 있나요?#
네, Raspberry Pi에서 YOLO26 TFLite 모델을 실행하여 추론 속도를 높일 수 있습니다. 먼저 위에서 설명한 대로 모델을 TFLite 형식으로 내보냅니다. 그런 다음 TensorFlow Lite 인터프리터와 같은 도구를 사용하여 Raspberry Pi에서 모델을 실행하십시오.
추가 최적화를 위해 Coral Edge TPU 사용을 고려할 수 있습니다. 자세한 단계는 Raspberry Pi 배포 가이드와 Edge TPU 통합 가이드를 참조하십시오.
Link to this section마이크로컨트롤러에서 YOLO26 예측을 위해 TFLite 모델을 사용할 수 있나요?#
네, TFLite는 리소스가 제한된 마이크로컨트롤러 배포를 지원합니다. TFLite의 코어 런타임은 Arm Cortex M3에서 16KB의 메모리만 필요하며 기본적인 YOLO26 모델을 실행할 수 있습니다. 이로 인해 최소한의 계산 능력과 메모리를 가진 디바이스에 배포하기에 적합합니다.
시작하려면 TFLite Micro 마이크로컨트롤러용 가이드를 방문하십시오.
Link to this sectionTFLite로 내보낸 YOLO26 모델과 호환되는 플랫폼은 무엇인가요?#
TensorFlow Lite는 광범위한 플랫폼 호환성을 제공하여 다음을 포함한 다양한 디바이스에 YOLO26 모델을 배포할 수 있습니다.
- Android 및 iOS: TFLite Android 및 iOS 라이브러리를 통한 네이티브 지원.
- 임베디드 Linux: Raspberry Pi와 같은 싱글 보드 컴퓨터에 이상적.
- 마이크로컨트롤러: 리소스가 제한된 MCU에 적합.
배포 옵션에 대한 자세한 내용은 배포 가이드를 참조하십시오.
Link to this sectionYOLO26 모델을 TFLite로 내보내는 중 발생하는 일반적인 문제를 어떻게 해결하나요?#
YOLO26 모델을 TFLite로 내보내는 중 오류가 발생하면 일반적인 해결 방법은 다음과 같습니다.
- 패키지 호환성 확인: Ultralytics와 TensorFlow의 호환 버전을 사용하고 있는지 확인하십시오. 설치 가이드를 참조하십시오.
- 모델 지원: Ultralytics 내보내기 문서 페이지를 확인하여 특정 YOLO26 모델이 TFLite 내보내기를 지원하는지 확인하십시오.
- 양자화 문제: INT8 양자화를 사용할 때
data매개변수에 데이터셋 경로가 올바르게 지정되었는지 확인하십시오.
추가 문제 해결 팁은 일반적인 문제 가이드를 방문하십시오.