Link to this sectionUltralytics YOLO26 모델을 위한 Rockchip RKNN 내보내기#

임베디드 장치, 특히 Rockchip 프로세서 기반 장치에 컴퓨터 비전 모델을 배포할 때는 호환 가능한 모델 형식이 필수적입니다. Ultralytics YOLO26 모델을 RKNN 형식으로 내보내면 Rockchip 하드웨어에 최적화된 성능과 호환성을 보장할 수 있습니다. 이 가이드는 부동 소수점 및 INT8 양자화 내보내기를 포함하여 YOLO26 모델을 RKNN 형식으로 변환하고 Rockchip 플랫폼에 효율적으로 배포하는 방법을 안내합니다.

Link to this sectionRockchip이란 무엇입니까?#

다양하고 전력 효율적인 솔루션을 제공하는 것으로 유명한 Rockchip은 가전 제품, 산업용 애플리케이션 및 AI 기술 전반에 걸쳐 광범위하게 사용되는 고급 SoC(System-on-Chips)를 설계합니다. ARM 기반 아키텍처, 내장형 NPU(Neural Processing Unit) 및 고해상도 멀티미디어 지원을 통해 Rockchip SoC는 태블릿, 스마트 TV, IoT 시스템 및 엣지 AI 애플리케이션과 같은 장치에서 최첨단 성능을 발휘합니다. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas, Banana Pi와 같은 기업들이 Rockchip SoC 기반의 다양한 제품을 제공하여 다양한 시장에서 그 영향력을 더욱 확장하고 있습니다.

Link to this sectionRKNN Toolkit#

RKNN Toolkit은 Rockchip 하드웨어 플랫폼에서 딥러닝 모델 배포를 원활하게 하기 위해 Rockchip에서 제공하는 도구 및 라이브러리 세트입니다. RKNN(Rockchip Neural Network)은 이러한 도구에서 사용하는 독점 형식입니다. RKNN 모델은 Rockchip의 NPU(Neural Processing Unit)에서 제공하는 하드웨어 가속 기능을 최대한 활용하도록 설계되어 RK3588, RK3566, RV1103, RV1106 및 기타 Rockchip 기반 시스템에서 AI 작업의 고성능을 보장합니다.

Link to this sectionRKNN 모델의 주요 특징#

RKNN 모델은 Rockchip 플랫폼 배포에 다음과 같은 여러 가지 이점을 제공합니다.

• NPU 최적화: RKNN 모델은 Rockchip의 NPU에서 실행되도록 특별히 최적화되어 최대의 성능과 효율성을 보장합니다.
• 낮은 지연 시간: RKNN 형식은 추론 지연 시간을 최소화하며, 이는 엣지 장치의 실시간 애플리케이션에 매우 중요합니다.
• 플랫폼별 맞춤화: RKNN 모델을 특정 Rockchip 플랫폼에 맞게 조정하여 하드웨어 리소스를 더 잘 활용할 수 있습니다.
• 전력 효율성: 전용 NPU 하드웨어를 활용함으로써 RKNN 모델은 CPU 또는 GPU 기반 처리보다 전력을 적게 소비하여 휴대용 장치의 배터리 수명을 연장합니다.

Link to this sectionRockchip 하드웨어에 OS 플래시하기#

Rockchip 기반 장치를 확보한 후 첫 번째 단계는 하드웨어가 작업 환경으로 부팅될 수 있도록 OS를 플래시하는 것입니다. 이 가이드에서는 테스트를 완료한 두 장치인 Radxa Rock 5B와 Radxa Zero 3W의 시작 가이드를 안내합니다.

• Radxa Rock 5B 시작 가이드
• Radxa Zero 3W 시작 가이드

Link to this sectionRKNN으로 내보내기: YOLO26 모델 변환#

Ultralytics YOLO26 모델을 RKNN 형식으로 내보내고 내보낸 모델로 추론을 실행합니다.

Link to this section설치#

필수 패키지를 설치하려면 다음을 실행하십시오:

# Install the required package for YOLO26
pip install ultralytics

설치 과정과 관련된 자세한 지침 및 모범 사례는 Ultralytics 설치 가이드를 확인하십시오. YOLO26용 필수 패키지를 설치하는 동안 문제가 발생하면 공통 문제 가이드에서 해결 방법과 팁을 확인하십시오.

Link to this section사용법#

RKNN 형식은 내보내기, 예측 및 검증 모드를 지원합니다. 추론 및 검증은 Rockchip NPU 하드웨어에서 실행됩니다. 모델을 내보낸 다음 내보낸 모델을 로드하여 추론을 실행하거나 정확도를 검증하십시오. 기본적으로 RKNN 내보내기는 FP16 지원 Rockchip 타겟에 대해 half=True를 사용하는 기존 부동 소수점 빌드 경로를 사용합니다. int8=True를 사용하여 보정 데이터가 포함된 INT8 양자화 RKNN 모델을 빌드하십시오. RKNN 내보내기는 별도의 FP32 모드를 노출하지 않으며, int8=False로 두어도 FP32를 요청하지 않습니다.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to RKNN format
model.export(format="rknn", name="rk3588")  # creates '/yolo26n_rknn_model'

# Export an INT8-quantized RKNN model with calibration data
model.export(format="rknn", name="rk3588", int8=True, data="coco8.yaml")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this section내보내기 인수#

내보내기 과정에 대한 자세한 내용은 Ultralytics 내보내기 문서 페이지를 참조하십시오.

Link to this section내보낸 YOLO26 RKNN 모델 배포#

Ultralytics YOLO26 모델을 RKNN 형식으로 성공적으로 내보냈다면, 다음 단계는 이러한 모델을 Rockchip 기반 장치에 배포하는 것입니다.

Link to this section설치#

필수 패키지를 설치하려면 다음을 실행하십시오:

# Install the required package for YOLO26
pip install ultralytics

설치가 완료되면 위 사용법 섹션에 표시된 대로 정확히 Rockchip 장치에서 추론 및 검증을 실행하십시오. 내보낸 _rknn_model은 YOLO(...)를 사용하여 바로 로드됩니다.

Link to this section실제 애플리케이션#

YOLO26 RKNN 모델이 탑재된 Rockchip 기반 장치는 다양한 애플리케이션에 사용될 수 있습니다:

• 스마트 감시: 낮은 전력 소비로 보안 모니터링을 위한 효율적인 객체 감지 시스템을 배포하십시오.
• 산업 자동화: 임베디드 장치에서 직접 품질 관리 및 결함 감지를 구현하십시오.
• 소매 분석: 클라우드 의존 없이 실시간으로 고객 행동 및 재고 관리를 추적하십시오.
• 스마트 농업: 농업 분야의 컴퓨터 비전을 사용하여 작물 상태를 모니터링하고 해충을 감지하십시오.
• 자율 로봇: 자원이 제한된 플랫폼에서 비전 기반 내비게이션 및 장애물 감지 기능을 활성화하십시오.

Link to this section벤치마크#

아래의 YOLO26 벤치마크는 Ultralytics 팀이 Rockchip RK3588 기반의 Radxa Rock 5B에서 rknn 모델 형식을 사용하여 속도와 정확도를 측정한 결과입니다.

Link to this section요약#

이 가이드에서는 Rockchip 플랫폼에서의 배포를 최적화하기 위해 Ultralytics YOLO26 모델을 RKNN 형식으로 내보내는 방법을 배웠습니다. 또한 RKNN Toolkit과 엣지 AI 애플리케이션에서 RKNN 모델을 사용하는 구체적인 이점에 대해서도 알아보았습니다.

Ultralytics YOLO26과 Rockchip의 NPU 기술을 결합하면 임베디드 장치에서 고급 컴퓨터 비전 작업을 실행하기 위한 효율적인 솔루션을 제공합니다. 이 접근 방식을 통해 최소한의 전력 소비와 높은 성능으로 실시간 객체 탐지 및 기타 비전 AI 애플리케이션을 구현할 수 있습니다.

사용 방법에 대한 자세한 내용은 RKNN 공식 문서를 방문하십시오.

또한 다른 Ultralytics YOLO26 통합에 대해 더 알고 싶으시면 통합 가이드 페이지를 방문해 주십시오. 그곳에서 유용한 리소스와 인사이트를 많이 찾으실 수 있습니다.

Link to this sectionFAQ#

Link to this sectionUltralytics YOLO 모델을 RKNN 형식으로 내보내려면 어떻게 해야 하나요?#

Ultralytics Python 패키지의 export() 메서드나 명령줄 인터페이스(CLI)를 통해 Ultralytics YOLO 모델을 RKNN 형식으로 쉽게 내보낼 수 있습니다. Rockchip과 같은 ARM64 장치는 이 작업을 지원하지 않으므로, 내보내기 프로세스에는 x86 기반 Linux PC를 사용해야 합니다. name 인수를 사용하여 rk3588, rk3566 등과 같은 대상 Rockchip 플랫폼을 지정할 수 있습니다. 이 프로세스는 Rockchip 장치의 신경망 처리 장치(NPU)를 활용하여 추론 속도를 높일 수 있도록 최적화된 RKNN 모델을 생성합니다.

from ultralytics import YOLO

# Load your YOLO model
model = YOLO("yolo26n.pt")

# Export to RKNN format for a specific Rockchip platform
model.export(format="rknn", name="rk3588")

Link to this sectionRockchip 장치에서 RKNN 모델을 사용하는 이점은 무엇인가요?#

RKNN 모델은 Rockchip의 신경망 처리 장치(NPU)의 하드웨어 가속 기능을 활용하도록 특별히 설계되었습니다. 이러한 최적화를 통해 동일한 하드웨어에서 ONNX나 TensorFlow Lite와 같은 일반적인 모델 형식을 실행하는 것에 비해 추론 속도가 훨씬 빠르고 지연 시간이 단축됩니다. RKNN 모델을 사용하면 장치의 리소스를 더욱 효율적으로 사용하여 전력 소비를 낮추고 전반적인 성능을 향상시킬 수 있으며, 이는 특히 엣지 장치에서의 실시간 애플리케이션에 필수적입니다. Ultralytics YOLO 모델을 RKNN으로 변환하면 RK3588, RK3566 등 Rockchip SoC 기반 장치에서 최적의 성능을 달성할 수 있습니다.

Link to this sectionNVIDIA나 Google과 같은 다른 제조사의 장치에도 RKNN 모델을 배포할 수 있나요?#

RKNN 모델은 Rockchip 플랫폼과 해당 내장 NPU에 최적화되어 있습니다. 소프트웨어 에뮬레이션을 사용하여 다른 플랫폼에서 RKNN 모델을 기술적으로 실행할 수는 있지만, Rockchip 장치가 제공하는 하드웨어 가속의 이점은 누릴 수 없습니다. 다른 플랫폼에서 최적의 성능을 얻으려면, NVIDIA GPU용 TensorRT나 Google Edge TPU용 TensorFlow Lite와 같이 해당 플랫폼을 위해 특별히 설계된 형식으로 Ultralytics YOLO 모델을 내보내는 것이 좋습니다. Ultralytics는 다양한 형식으로의 내보내기를 지원하여 여러 하드웨어 가속기와의 호환성을 보장합니다.

Link to this sectionRKNN 모델 배포를 위해 어떤 Rockchip 플랫폼이 지원되나요?#

Ultralytics YOLO의 RKNN 형식 내보내기는 RK3588, RK3576, RK3566, RK3568, RK3562, RK2118, RV1126B를 포함한 부동 소수점 RKNN 빌드를 지원하는 Rockchip 플랫폼을 지원합니다. 또한 RV1103, RV1106, RV1103B, RV1106B와 같이 INT8 전용 대상에 필요한 int8=True 옵션을 사용한 INT8 양자화 RKNN 내보내기도 지원합니다. 이러한 플랫폼은 Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas, Banana Pi와 같은 제조사의 장치에서 흔히 찾아볼 수 있으며, 이를 통해 단일 보드 컴퓨터부터 산업용 시스템에 이르기까지 다양한 Rockchip 기반 장치에 최적화된 RKNN 모델을 배포할 수 있습니다.

Link to this sectionRockchip 장치에서 RKNN 모델의 성능은 다른 형식과 비교하여 어떤가요?#

RKNN 모델은 Rockchip의 NPU에 최적화되어 있기 때문에 일반적으로 Rockchip 장치에서 ONNX나 TensorFlow Lite와 같은 다른 형식보다 뛰어난 성능을 발휘합니다. 예를 들어, Radxa Rock 5B (RK3588)에서의 벤치마크를 보면 RKNN 형식의 YOLO26n은 이미지당 65.7ms의 추론 시간을 달성하여 다른 형식보다 훨씬 빠릅니다. 이러한 성능 이점은 벤치마크 섹션에서 입증된 바와 같이 다양한 YOLO26 모델 크기 전반에서 일관되게 나타납니다. 전용 NPU 하드웨어를 활용함으로써 RKNN 모델은 지연 시간을 최소화하고 처리량을 극대화하여 Rockchip 기반 엣지 장치의 실시간 애플리케이션에 이상적입니다.