RKNN Xuất khẩu cho Ultralytics YOLO11 Mô hình

Khi triển khai các mô hình thị giác máy tính trên các thiết bị nhúng, đặc biệt là các thiết bị được cung cấp bởi bộ xử lý Rockchip, việc có định dạng mô hình tương thích là điều cần thiết. Xuất các mô hình Ultralytics YOLO11 sang định dạng RKNN đảm bảo hiệu suất và khả năng tương thích được tối ưu hóa với phần cứng của Rockchip. Hướng dẫn này sẽ hướng dẫn bạn cách chuyển đổi YOLO11 mô hình sang định dạng RKNN, cho phép triển khai hiệu quả trên nền tảng Rockchip.

Rockchip là gì?

Nổi tiếng với việc cung cấp các giải pháp linh hoạt và tiết kiệm điện năng, Rockchip thiết kế các Hệ thống trên Chip (SoC) tiên tiến cung cấp năng lượng cho nhiều loại thiết bị điện tử tiêu dùng, ứng dụng công nghiệp và công nghệ AI. Với kiến trúc dựa trên ARM, Bộ xử lý thần kinh (NPU) tích hợp và hỗ trợ đa phương tiện độ phân giải cao, Rockchip SoC cho phép hiệu suất tiên tiến cho các thiết bị như máy tính bảng, TV thông minh, hệ thống IoT và ứng dụng AI biên. Các công ty như Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas và Banana Pi cung cấp nhiều sản phẩm dựa trên Rockchip SoC, mở rộng hơn nữa phạm vi tiếp cận và tác động của họ trên nhiều thị trường khác nhau.

Bộ công cụ RKNN

Bộ công cụ RKNN là một bộ công cụ và thư viện do Rockchip cung cấp để tạo điều kiện triển khai các mô hình học sâu trên nền tảng phần cứng của họ. RKNN, hay Mạng nơ-ron Rockchip, là định dạng độc quyền được các công cụ này sử dụng. Các mô hình RKNN được thiết kế để tận dụng tối đa khả năng tăng tốc phần cứng do NPU (Bộ xử lý nơ-ron) của Rockchip cung cấp, đảm bảo hiệu suất cao trong các tác vụ AI trên các thiết bị như RK3588, RK3566, RV1103, RV1106 và các hệ thống khác do Rockchip cung cấp.

Các tính năng chính của mô hình RKNN

Các mô hình RKNN mang lại một số lợi thế khi triển khai trên nền tảng Rockchip:

• Được tối ưu hóa cho NPU : Các mô hình RKNN được tối ưu hóa cụ thể để chạy trên NPU của Rockchip, đảm bảo hiệu suất và hiệu quả tối đa.
• Độ trễ thấp : Định dạng RKNN giảm thiểu độ trễ suy luận, điều này rất quan trọng đối với các ứng dụng thời gian thực trên các thiết bị biên.
• Tùy chỉnh theo nền tảng cụ thể : Các mô hình RKNN có thể được tùy chỉnh theo các nền tảng Rockchip cụ thể, cho phép sử dụng tốt hơn tài nguyên phần cứng.

Flash OS đến phần cứng Rockchip

Bước đầu tiên sau khi có được thiết bị chạy Rockchip là flash hệ điều hành để phần cứng có thể khởi động vào môi trường làm việc. Trong hướng dẫn này, chúng tôi sẽ chỉ ra hướng dẫn bắt đầu của hai thiết bị mà chúng tôi đã thử nghiệm là Radxa Rock 5B và Radxa Zero 3W.

• Hướng dẫn bắt đầu sử dụng Radxa Rock 5B
• Hướng dẫn bắt đầu sử dụng Radxa Zero 3W

Xuất sang RKNN: Chuyển đổi YOLO11 Người mẫu

Xuất khẩu một Ultralytics YOLO11 mô hình sang định dạng RKNN và chạy suy luận với mô hình đã xuất.

Cài đặt

Để cài đặt các gói cần thiết, hãy chạy:

# Install the required package for YOLO11
pip install ultralytics

Để biết hướng dẫn chi tiết và các biện pháp thực hành tốt nhất liên quan đến quy trình cài đặt, hãy xem hướng dẫn Cài đặt Ultralytics của chúng tôi. Trong khi cài đặt các gói cần thiết cho YOLO11 , nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo hướng dẫn Sự cố thường gặp của chúng tôi để biết giải pháp và mẹo.

Cách sử dụng

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to RKNN format
# Here name can be one of rk3588, rk3576, rk3566, rk3568, rk3562, rv1103, rv1106, rv1103b, rv1106b, rk2118
model.export(format="rknn", args={"name": "rk3588"})  # creates '/yolo11n_rknn_model'

# Export a YOLO11n PyTorch model to RKNN format
# Here name can be one of rk3588, rk3576, rk3566, rk3568, rk3562, rv1103, rv1106, rv1103b, rv1106b, rk2118
yolo export model=yolo11n.pt format=rknn name=rk3588  # creates '/yolo11n_rknn_model'

Để biết thêm chi tiết về quy trình xuất, hãy truy cập trang tài liệu Ultralytics về xuất .

Triển khai Đã xuất YOLO11 Mô hình RKNN

Sau khi bạn đã xuất thành công Ultralytics YOLO11 mô hình sang định dạng RKNN, bước tiếp theo là triển khai các mô hình này trên các thiết bị sử dụng Rockchip.

Cài đặt

Để cài đặt các gói cần thiết, hãy chạy:

# Install the required package for YOLO11
pip install ultralytics

Cách sử dụng

from ultralytics import YOLO

# Load the exported RKNN model
rknn_model = YOLO("./yolo11n_rknn_model")

# Run inference
results = rknn_model("https://ultralytics.com/images/bus.jpg")

# Run inference with the exported model
yolo predict model='./yolo11n_rknn_model' source='https://ultralytics.com/images/bus.jpg'

Tiêu chuẩn

YOLO11 các tiêu chuẩn dưới đây được chạy bởi Ultralytics nhóm trên Radxa Rock 5B dựa trên Rockchip RK3588 với rknn định dạng mô hình đo tốc độ và độ chính xác.

Bản tóm tắt

Trong hướng dẫn này, bạn đã học cách xuất Ultralytics YOLO11 mô hình sang định dạng RKNN để nâng cao việc triển khai trên nền tảng Rockchip. Bạn cũng đã được giới thiệu về RKNN Toolkit và những lợi thế cụ thể khi sử dụng mô hình RKNN cho các ứng dụng AI biên.

Để biết thêm chi tiết về cách sử dụng, hãy truy cập tài liệu chính thức của RKNN .

Ngoài ra, nếu bạn muốn biết thêm về những điều khác Ultralytics YOLO11 tích hợp, hãy truy cập trang hướng dẫn tích hợp của chúng tôi. Bạn sẽ tìm thấy nhiều tài nguyên và thông tin hữu ích ở đó.

📅 Được tạo cách đây 0 ngày ✏️ Đã cập nhật cách đây 0 ngày

Bình luận