Ultralytics YOLOv8 🚀와 함께 라즈베리 파이에 코랄 엣지 TPU

코랄 엣지란 무엇인가요 TPU?

Coral Edge TPU 는 시스템에 Edge TPU 코프로세서를 추가하는 소형 장치입니다. TensorFlow 라이트 모델에서 저전력, 고성능 ML 추론을 가능하게 합니다. 자세한 내용은 Coral Edge TPU 홈페이지에서 확인하세요.

코랄 엣지로 라즈베리파이 모델 성능 향상하기 TPU

많은 사람들이 전력 효율이 높고 다양한 애플리케이션에 사용할 수 있는 Raspberry Pi와 같은 임베디드 또는 모바일 장치에서 모델을 실행하려고 합니다. 그러나 이러한 장치에서는 일반적으로 다음과 같은 형식을 사용하는 경우에도 추론 성능이 좋지 않습니다. onnx 또는 openvino. 코랄 엣지( TPU )는 라즈베리 파이와 함께 사용하면 추론 성능을 크게 향상시킬 수 있기 때문에 이 문제에 대한 훌륭한 해결책이 될 수 있습니다.

라즈베리 파이의 엣지 TPU TensorFlow 라이트(신규)⭐ (신규)

라즈베리 파이에서 Edge TPU 를 사용하는 방법에 대한 Coral의 기존 가이드는 오래되었으며, 현재 Coral Edge TPU 런타임 빌드는 현재 TensorFlow 라이트 런타임 버전에서 더 이상 작동하지 않습니다. 또한 Google 은 Coral 프로젝트를 완전히 포기한 것으로 보이며 2021년부터 2024년 사이에 업데이트가 이루어지지 않았습니다. 이 가이드에서는 최신 버전의 TensorFlow 라이트 런타임과 업데이트된 Coral Edge TPU 런타임을 사용하여 Edge TPU 를 라즈베리파이 단일 보드 컴퓨터(SBC)에서 작동시키는 방법을 보여드립니다.

전제 조건

• 라즈베리 파이 4B (2GB 이상 권장) 또는 라즈베리 파이 5 (권장)
• 데스크톱이 있는 Raspberry Pi OS Bullseye/Bookworm(64비트)(권장)
• 코랄 USB 가속기
• Ultralytics PyTorch 모델 내보내기를 위한 비ARM 기반 플랫폼

설치 연습

이 가이드는 이미 작동하는 라즈베리 파이 OS가 설치되어 있고 다음을 설치했다고 가정합니다. ultralytics 및 모든 종속성. 얻으려면 ultralytics 설치된 경우 빠른 시작 가이드 를 클릭하여 설정을 완료한 후 계속 진행하세요.

Edge TPU 런타임 설치

먼저 Edge TPU 런타임을 설치해야 합니다. 다양한 버전이 있으므로 사용 중인 운영 체제에 맞는 버전을 선택해야 합니다.

여기에서 최신 버전을 다운로드하세요.

파일을 다운로드한 후 다음 명령어를 사용하여 설치할 수 있습니다:

sudo dpkg -i path/to/package.deb

런타임을 설치한 후, 코랄 엣지( TPU )를 라즈베리파이의 USB 3.0 포트에 연결해야 합니다. 이는 공식 가이드에 따르면 새로운 udev 규칙을 설치한 후에 적용해야 합니다.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high frequency version
sudo apt remove libedgetpu1-max

모델을 Edge TPU 호환 모델로 내보내기

Edge TPU 를 사용하려면 모델을 호환 가능한 형식으로 변환해야 합니다. ARM에서는 Edge TPU 컴파일러를 사용할 수 없으므로 공식 Ultralytics Docker 컨테이너를 사용하거나 Ultralytics HUB를 사용하여 Google Colab, x86_64 Linux 시스템에서 내보내기를 실행하는 것이 좋습니다. 사용 가능한 인수는 내보내기 모드를 참조하세요.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

yolo export model=path/to/model.pt format=edgetpu  # Export an official model or custom model

내보낸 모델은 <model_name>_saved_model/ 폴더에 <model_name>_full_integer_quant_edgetpu.tflite.

모델 실행

모델을 내보낸 후 다음 코드를 사용하여 추론을 실행할 수 있습니다:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/edgetpu_model.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

yolo predict model=path/to/edgetpu_model.tflite source=path/to/source.png  # Load an official model or custom model

전체 예측 모드에 대한 자세한 내용은 예측 페이지에서 종합 정보를 확인하세요.

pip uninstall tensorflow tensorflow-aarch64

pip install -U tflite-runtime

자주 묻는 질문

코랄 엣지란 무엇인가 TPU 그리고 어떻게 라즈베리파이의 성능을 향상시키는가 Ultralytics YOLOv8 ?

Coral Edge TPU 는 시스템에 Edge TPU 코프로세서를 추가할 수 있도록 설계된 소형 장치입니다. 이 코프로세서는 저전력, 고성능 머신 러닝 추론을 가능하게 하며, 특히 TensorFlow 라이트 모델에 최적화되어 있습니다. 라즈베리 파이를 사용하는 경우, Edge TPU 는 ML 모델 추론을 가속화하여 특히 Ultralytics YOLOv8 모델의 성능을 크게 향상시킵니다. Coral Edge에 대한 자세한 내용은 홈페이지 TPU 에서 확인할 수 있습니다.

라즈베리파이에 Coral Edge TPU 런타임을 설치하려면 어떻게 해야 하나요?

라즈베리 파이에 Coral Edge TPU 런타임을 설치하려면, 해당 런타임을 다운로드하세요. .deb 에서 라즈베리 파이 OS 버전용 패키지를 다운로드하십시오. 이 링크. 다운로드가 완료되면 다음 명령을 사용하여 설치합니다:

sudo dpkg -i path/to/package.deb

설치 연습 섹션에 설명된 단계에 따라 이전 Coral Edge TPU 런타임 버전을 제거해야 합니다.

내 Ultralytics YOLOv8 모델을 Coral Edge TPU 와 호환되도록 내보낼 수 있나요?

예, Coral Edge TPU 와 호환되도록 Ultralytics YOLOv8 모델을 내보낼 수 있습니다. 내보내기는 x86_64 Linux 머신인 Google Colab 또는 Ultralytics Docker 컨테이너를 사용하여 수행하는 것이 좋습니다. Ultralytics HUB를 사용하여 내보낼 수도 있습니다. Python 및 CLI 을 사용하여 모델을 내보내는 방법은 다음과 같습니다:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

yolo export model=path/to/model.pt format=edgetpu  # Export an official model or custom model

자세한 내용은 내보내기 모드 문서를 참조하세요.

라즈베리파이에 TensorFlow 이 이미 설치되어 있는데 대신 tflite-runtime을 사용하려면 어떻게 해야 하나요?

라즈베리 파이에 TensorFlow 가 설치되어 있고 다음과 같이 전환해야 하는 경우 tflite-runtime를 사용하여 TensorFlow 을 먼저 제거해야 합니다:

pip uninstall tensorflow tensorflow-aarch64

그런 다음 다음을 설치 또는 업데이트합니다. tflite-runtime 를 다음 명령어로 대체합니다:

pip install -U tflite-runtime

특정 휠의 경우(예: TensorFlow 2.15.0) tflite-runtime에서 다운로드할 수 있습니다. 이 링크 를 클릭하고 다음을 사용하여 설치합니다. pip. 자세한 지침은 모델 실행 섹션에서 확인할 수 있습니다. 모델 실행.

코랄 엣지 TPU 를 사용하여 라즈베리 파이에서 내보낸 YOLOv8 모델로 추론을 실행하려면 어떻게 해야 하나요?

YOLOv8 모델을 Edge TPU 호환 형식으로 내보낸 후 다음 코드 스니펫을 사용하여 추론을 실행할 수 있습니다:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/edgetpu_model.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

yolo predict model=path/to/edgetpu_model.tflite source=path/to/source.png  # Load an official model or custom model

전체 예측 모드 기능에 대한 자세한 내용은 예측 페이지에서 확인할 수 있습니다.

댓글