Ultralytics YOLOv8 🚀와 함께 라즈베리 파이에 코랄 엣지 TPU

코랄 엣지란 무엇인가요 TPU?

Coral Edge TPU 는 시스템에 Edge TPU 코프로세서를 추가하는 소형 장치입니다. TensorFlow 라이트 모델에서 저전력, 고성능 ML 추론을 가능하게 합니다. 자세한 내용은 Coral Edge TPU 홈페이지에서 확인하세요.

코랄 엣지로 라즈베리파이 모델 성능 향상하기 TPU

많은 사람들이 전력 효율이 높고 다양한 애플리케이션에 사용할 수 있는 Raspberry Pi와 같은 임베디드 또는 모바일 장치에서 모델을 실행하려고 합니다. 그러나 이러한 장치에서는 일반적으로 다음과 같은 형식을 사용하는 경우에도 추론 성능이 좋지 않습니다. onnx 또는 openvino. 코랄 엣지( TPU )는 라즈베리 파이와 함께 사용하면 추론 성능을 크게 향상시킬 수 있기 때문에 이 문제에 대한 훌륭한 해결책이 될 수 있습니다.

라즈베리 파이의 엣지 TPU TensorFlow 라이트(신규)⭐ (신규)

라즈베리 파이에서 Edge를 사용하는 방법에 대한 Coral의 기존 가이드 TPU 는 오래되었으며, 현재 Coral Edge TPU 런타임 빌드는 현재 TensorFlow 라이트 런타임 버전에서 더 이상 작동하지 않습니다. 게다가 Google은 Coral 프로젝트를 완전히 포기한 것으로 보이며 2021년부터 2024년 사이에 업데이트가 이루어지지 않았습니다. 이 가이드에서는 최신 버전의 TensorFlow 라이트 런타임 및 업데이트된 Coral Edge TPU 런타임으로 Edge( TPU )를 라즈베리파이 단일 보드 컴퓨터(SBC)에서 작동시키는 방법을 보여드립니다.

전제 조건

• 라즈베리 파이 4B (2GB 이상 권장) 또는 라즈베리 파이 5 (권장)
• 데스크톱이 있는 Raspberry Pi OS Bullseye/Bookworm(64비트)(권장)
• 코랄 USB 가속기
• Ultralytics PyTorch 모델 내보내기를 위한 비ARM 기반 플랫폼

설치 연습

이 가이드는 이미 작동하는 라즈베리 파이 OS가 설치되어 있고 다음을 설치했다고 가정합니다. ultralytics 및 모든 종속성. 얻으려면 ultralytics 설치된 경우 빠른 시작 가이드 를 클릭하여 설정을 완료한 후 계속 진행하세요.

Edge TPU 런타임 설치

먼저 Edge TPU 런타임을 설치해야 합니다. 다양한 버전이 있으므로 사용 중인 운영 체제에 맞는 버전을 선택해야 합니다.

여기에서 최신 버전을 다운로드하세요.

파일을 다운로드한 후 다음 명령어를 사용하여 설치할 수 있습니다:

sudo dpkg -i path/to/package.deb

런타임을 설치한 후, 코랄 엣지( TPU )를 라즈베리파이의 USB 3.0 포트에 연결해야 합니다. 이는 공식 가이드에 따르면 새로운 udev 규칙을 설치한 후에 적용해야 합니다.

# If you installed the standard version
sudo apt remove libedgetpu1-std 

# If you installed the high frequency version
sudo apt remove libedgetpu1-max 

모델을 Edge TPU 호환 모델로 내보내기

Edge TPU 를 사용하려면 모델을 호환 가능한 형식으로 변환해야 합니다. ARM에서는 Edge TPU 컴파일러를 사용할 수 없으므로 공식 Ultralytics Docker 컨테이너를 사용하거나 Ultralytics HUB를 사용하여 Google Colab, x86_64 Linux 시스템에서 내보내기를 실행하는 것이 좋습니다. 사용 가능한 인수는 내보내기 모드를 참조하세요.

from ultralytics import YOLO

# Load a model
model = YOLO('path/to/model.pt')  # Load an official model or custom model

# Export the model
model.export(format='edgetpu')

yolo export model=path/to/model.pt format=edgetpu  # Export an official model or custom model

내보낸 모델은 <model_name>_saved_model/ 폴더에 <model_name>_full_integer_quant_edgetpu.tflite.

모델 실행

모델을 내보낸 후 다음 코드를 사용하여 추론을 실행할 수 있습니다:

from ultralytics import YOLO

# Load a model
model = YOLO('path/to/edgetpu_model.tflite')  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

yolo predict model=path/to/edgetpu_model.tflite source=path/to/source.png  # Load an official model or custom model

전체 예측 모드에 대한 자세한 내용은 예측 페이지에서 종합 정보를 확인하세요.

pip uninstall tensorflow tensorflow-aarch64

pip install -U tflite-runtime

댓글