TFLite Edge TPU 포맷으로 내보내기 학습하기 YOLOv8 모델에서

모바일 또는 임베디드 시스템과 같이 연산 능력이 제한된 디바이스에 컴퓨터 비전 모델을 배포하는 것은 까다로울 수 있습니다. 빠른 성능에 최적화된 모델 형식을 사용하면 프로세스가 간소화됩니다. TensorFlow Lite Edge TPU 또는 TFLite Edge TPU 모델 형식은 신경망에 빠른 성능을 제공하면서 최소한의 전력을 사용하도록 설계되었습니다.

TFLite Edge TPU 포맷으로 내보내기 기능을 사용하면 Ultralytics YOLOv8 모델을 고속 및 저전력 추론에 최적화할 수 있습니다. 이 가이드에서는 다양한 모바일 및 임베디드 장치에서 모델이 더 쉽게 작동할 수 있도록 모델을 TFLite Edge TPU 형식으로 변환하는 방법을 안내합니다.

TFLite Edge TPU 로 내보내야 하는 이유 ?

TensorFlow Edge TPU 로 모델을 내보내면 머신 러닝 작업을 빠르고 효율적으로 수행할 수 있습니다. 이 기술은 전력, 컴퓨팅 리소스 및 연결성이 제한된 애플리케이션에 적합합니다. Edge TPU 는 Google의 하드웨어 가속기입니다. 엣지 기기에서 TensorFlow 라이트 모델의 속도를 높입니다. 아래 이미지는 관련 프로세스의 예를 보여줍니다.

Edge TPU 는 양자화된 모델과 함께 작동합니다. 정량화는 정확도를 크게 잃지 않으면서도 모델을 더 작고 빠르게 만듭니다. 이는 엣지 컴퓨팅의 제한된 리소스에 이상적이며, 지연 시간을 줄여 애플리케이션이 빠르게 응답하고 클라우드 의존 없이 로컬에서 데이터를 빠르게 처리할 수 있도록 해줍니다. 또한 로컬 처리는 사용자 데이터를 원격 서버로 전송하지 않기 때문에 비공개로 안전하게 유지합니다.

TFLite Edge의 주요 기능 TPU

다음은 TFLite Edge TPU 를 개발자에게 훌륭한 모델 형식 선택으로 만드는 주요 기능입니다:

• 엣지 디바이스에서 최적화된 성능: TFLite Edge TPU 는 양자화, 모델 최적화, 하드웨어 가속, 컴파일러 최적화를 통해 고속 뉴럴 네트워킹 성능을 달성합니다. 최소한의 아키텍처로 더 작은 크기와 비용 효율성을 제공합니다.

• 높은 연산 처리량: TFLite Edge TPU 는 특수 하드웨어 가속과 효율적인 런타임 실행을 결합하여 높은 컴퓨팅 처리량을 달성합니다. 엄격한 성능 요건을 갖춘 머신 러닝 모델을 엣지 디바이스에 배포하는 데 적합합니다.

• 효율적인 행렬 연산: TensorFlow Edge TPU 는 신경망 계산에 필수적인 행렬 연산에 최적화되어 있습니다. 이러한 효율성은 머신러닝 모델, 특히 수많은 복잡한 행렬 곱셈과 변환이 필요한 모델에서 핵심적인 요소입니다.

TFLite Edge를 사용한 배포 옵션 TPU

YOLOv8 모델을 TFLite Edge TPU 형식으로 내보내는 방법을 살펴보기 전에 TFLite Edge TPU 모델이 일반적으로 사용되는 위치를 이해해 보겠습니다.

TFLite Edge( TPU )는 다음과 같은 머신 러닝 모델을 위한 다양한 배포 옵션을 제공합니다:

• 온디바이스 배포: TensorFlow Edge TPU 모델은 모바일 및 임베디드 디바이스에 직접 배포할 수 있습니다. 온디바이스 배포를 사용하면 모델을 하드웨어에서 직접 실행할 수 있으므로 클라우드 연결이 필요하지 않습니다.

• 클라우드를 사용한 엣지 컴퓨팅 TensorFlow TPU: 엣지 디바이스의 처리 능력이 제한적인 시나리오에서 TensorFlow 엣지 TPU는 추론 작업을 TPU가 장착된 클라우드 서버로 오프로드할 수 있습니다.

• 하이브리드 배포: 하이브리드 배포: 하이브리드 접근 방식은 온디바이스 배포와 클라우드 배포를 결합하여 머신 러닝 모델 배포를 위한 다용도 및 확장 가능한 솔루션을 제공합니다. 빠른 응답을 위한 온디바이스 처리와 보다 복잡한 계산을 위한 클라우드 컴퓨팅이 장점입니다.

YOLOv8 모델을 TFLite Edge로 내보내기 TPU

YOLOv8 모델을 TensorFlow Edge TPU 로 변환하여 모델 호환성 및 배포 유연성을 확장할 수 있습니다.

설치

필요한 패키지를 설치하려면 실행합니다:

# Install the required package for YOLOv8
pip install ultralytics

설치 과정과 관련된 자세한 지침과 모범 사례는 Ultralytics 설치 가이드를 참조하세요. YOLOv8 에 필요한 패키지를 설치하는 동안 문제가 발생하면 일반적인 문제 가이드를 참조하여 해결 방법과 팁을 확인하세요.

사용법

사용 지침을 살펴보기 전에 모든 Ultralytics YOLOv8 모델에서 내보내기를 사용할 수 있지만, 선택한 모델이 내보내기 기능을 지원하는지 여기에서 확인할 수 있다는 점에 유의하세요.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TFLite Edge TPU format
model.export(format='edgetpu')  # creates 'yolov8n_full_integer_quant_edgetpu.tflite’

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO('yolov8n_full_integer_quant_edgetpu.tflite')

# Run inference
results = edgetpu_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

지원되는 내보내기 옵션에 대한 자세한 내용은 배포 옵션에 대한Ultralytics 문서 페이지를 참조하세요.

내보낸 YOLOv8 TFLite Edge TPU 모델 배포

Ultralytics YOLOv8 모델을 TFLite Edge TPU 형식으로 성공적으로 내보낸 후에는 이제 배포할 수 있습니다. TFLite Edge TPU 모델을 실행하기 위한 기본적이고 권장되는 첫 번째 단계는 이전 사용 코드 스니펫에 설명된 대로 YOLO("model_edgetpu.tflite") 메서드를 사용하는 것입니다.

하지만 TFLite Edge TPU 모델 배포에 대한 자세한 지침은 다음 리소스를 참조하세요:

• 코랄 엣지 TPU 라즈베리 파이에서 Ultralytics YOLOv8: 코랄 엣지 TPU를 라즈베리 파이와 통합하여 머신 러닝 기능을 향상시키는 방법을 알아보세요.

• 코드 예제: 실용적인 TensorFlow Edge TPU 배포 예제에 액세스하여 프로젝트를 시작하세요.

• 다음을 사용하여 엣지에서 추론 실행 TPU Python: 설정 및 사용 지침을 포함하여 Edge TPU 애플리케이션용 TensorFlow Lite Python API를 사용하는 방법을 살펴보세요.

요약

이 가이드에서는 Ultralytics YOLOv8 모델을 TFLite Edge TPU 형식으로 내보내는 방법에 대해 알아보았습니다. 위에서 설명한 단계를 따르면 컴퓨터 비전 애플리케이션의 속도와 성능을 향상시킬 수 있습니다.

사용법에 대한 자세한 내용은 Edge 공식 웹사이트( TPU )에서 확인하세요.

또한 다른 통합에 대한 자세한 내용은 Ultralytics YOLOv8 통합 가이드 페이지를 참조하세요. 여기에서 유용한 리소스와 인사이트를 발견할 수 있습니다.

댓글