Xuất YOLO26 Models sang ONNX#

Thông thường, khi triển khai các model thị giác máy tính, bạn sẽ cần một định dạng model vừa linh hoạt vừa tương thích với nhiều nền tảng.

Xuất các model Ultralytics YOLO26 sang định dạng ONNX giúp đơn giản hóa việc triển khai và đảm bảo hiệu năng tối ưu trong nhiều môi trường. Hướng dẫn này sẽ chỉ cho bạn cách dễ dàng chuyển đổi các model YOLO26 sang ONNX, đồng thời cải thiện khả năng mở rộng và hiệu quả của chúng trong các ứng dụng thực tế.

ONNX và ONNX Runtime#

ONNX, viết tắt của Open Neural Network Exchange, là một dự án cộng đồng do Facebook và Microsoft phát triển ban đầu. ONNX hiện được phát triển dưới hình thức cộng tác với sự hỗ trợ của nhiều tổ chức như IBM, Amazon (thông qua AWS) và Google. Dự án hướng đến việc tạo ra một định dạng tệp mở để biểu diễn các model machine learning, cho phép sử dụng chúng trên nhiều framework AI và phần cứng khác nhau.

Các model ONNX có thể được sử dụng để chuyển đổi liền mạch giữa những framework khác nhau. Ví dụ, một model deep learning được huấn luyện bằng PyTorch có thể được xuất sang định dạng ONNX rồi dễ dàng import vào TensorFlow.

Ngoài ra, các model ONNX có thể được sử dụng với ONNX Runtime. ONNX Runtime là một accelerator đa nền tảng linh hoạt dành cho các model machine learning, tương thích với những framework như PyTorch, TensorFlow, scikit-learn, v.v.

ONNX Runtime tối ưu hóa quá trình thực thi các model ONNX bằng cách tận dụng những khả năng riêng của phần cứng. Việc tối ưu hóa này giúp model chạy hiệu quả và đạt hiệu năng cao trên nhiều nền tảng phần cứng, bao gồm CPU, GPU và các accelerator chuyên dụng.

Dù được sử dụng độc lập hay kết hợp với ONNX Runtime, ONNX cung cấp một giải pháp linh hoạt cho việc triển khai model machine learning và khả năng tương thích.

Các tính năng chính của model ONNX#

Khả năng xử lý nhiều định dạng của ONNX có thể được quy cho những tính năng chính sau:

• Biểu diễn model phổ biến: ONNX định nghĩa một tập hợp operator phổ biến (như phép tích chập, layer, v.v.) và một định dạng dữ liệu tiêu chuẩn. Khi một model được chuyển đổi sang định dạng ONNX, kiến trúc và trọng số của model sẽ được chuyển thành biểu diễn phổ biến này. Tính thống nhất đó đảm bảo model có thể được hiểu bởi bất kỳ framework nào hỗ trợ ONNX.

• Quản lý phiên bản và tương thích ngược: ONNX duy trì hệ thống quản lý phiên bản cho các operator. Điều này đảm bảo rằng ngay cả khi tiêu chuẩn phát triển, các model được tạo bằng những phiên bản cũ hơn vẫn có thể sử dụng. Tương thích ngược là một tính năng quan trọng, giúp model không nhanh chóng trở nên lỗi thời.

• Biểu diễn model dựa trên graph: ONNX biểu diễn model dưới dạng các graph tính toán. Cấu trúc dựa trên graph này là một cách phổ quát để biểu diễn các model machine learning, trong đó các node biểu thị operation hoặc phép tính, còn các edge biểu thị tensor truyền giữa chúng. Định dạng này dễ dàng thích ứng với nhiều framework khác nhau, vốn cũng biểu diễn model dưới dạng graph.

• Công cụ và hệ sinh thái: ONNX có một hệ sinh thái công cụ phong phú hỗ trợ chuyển đổi, trực quan hóa và tối ưu hóa model. Những công cụ này giúp developer làm việc với model ONNX và chuyển đổi model liền mạch giữa các framework khác nhau.

Các cách sử dụng ONNX phổ biến#

Trước khi tìm hiểu cách xuất model YOLO26 sang định dạng ONNX, hãy cùng xem các model ONNX thường được sử dụng ở đâu.

Triển khai trên CPU#

Các model ONNX thường được triển khai trên CPU nhờ khả năng tương thích với ONNX Runtime. Runtime này được tối ưu cho việc thực thi trên CPU. Nó cải thiện đáng kể tốc độ inference và giúp khả thi hóa việc triển khai trên CPU theo thời gian thực.

Các tùy chọn triển khai được hỗ trợ#

Mặc dù các model ONNX thường được sử dụng trên CPU, chúng cũng có thể được triển khai trên những nền tảng sau:

• Tăng tốc GPU: ONNX hỗ trợ đầy đủ tăng tốc GPU, đặc biệt là NVIDIA CUDA. Để huấn luyện và inference native trên GPU AMD, hãy sử dụng PyTorch ROCm; tệp ONNX vẫn yêu cầu một runtime tương thích với AMD.

• Thiết bị edge và mobile: ONNX mở rộng đến các thiết bị edge và mobile, rất phù hợp cho các kịch bản inference trên thiết bị và theo thời gian thực. ONNX nhẹ, tương thích với phần cứng edge và là nền tảng cho các định dạng NPU của vendor như Huawei Ascend, Qualcomm QNN cho thiết bị Snapdragon và RKNN cho NPU Rockchip.

• Trình duyệt web: ONNX có thể chạy trực tiếp trong trình duyệt web, hỗ trợ các ứng dụng AI tương tác và động trên nền web.

Các Task được hỗ trợ#

Xuất ONNX hỗ trợ cả bảy task của Ultralytics. Phân đoạn ngữ nghĩa và ước lượng độ sâu chỉ khả dụng với YOLO26, family duy nhất cung cấp các head đó.

Xuất model YOLO26 sang ONNX#

Bạn có thể mở rộng khả năng tương thích của model và tính linh hoạt khi triển khai bằng cách chuyển đổi model YOLO26 sang định dạng ONNX. Ultralytics YOLO26 cung cấp quy trình xuất đơn giản, có thể cải thiện đáng kể hiệu năng model trên nhiều nền tảng khác nhau.

Cài đặt#

Để cài đặt package bắt buộc, hãy chạy:

# Install the required package for YOLO26
pip install ultralytics

Để xem hướng dẫn chi tiết và các best practice liên quan đến quá trình cài đặt, hãy tham khảo hướng dẫn Cài đặt YOLO26 của chúng tôi. Trong quá trình cài đặt các package cần thiết cho YOLO26, nếu gặp khó khăn, hãy tham khảo hướng dẫn Các vấn đề thường gặp để tìm giải pháp và mẹo xử lý.

Cách sử dụng#

Trước khi bắt đầu xem hướng dẫn sử dụng, hãy tham khảo danh sách các model YOLO26 do Ultralytics cung cấp. Điều này sẽ giúp bạn chọn model phù hợp nhất với yêu cầu của project.

Định dạng ONNX hỗ trợ các mode Export, Predict và Validate. Hãy xuất model, sau đó load model đã xuất để chạy inference hoặc xác thực độ chính xác.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to ONNX format
model.export(format="onnx")  # creates 'yolo26n.onnx'

# Export an INT8-quantized ONNX model with calibration data
model.export(format="onnx", quantize=8, data="coco8.yaml")  # creates 'yolo26n_int8.onnx'

from ultralytics import YOLO

# Load the exported ONNX model
model = YOLO("yolo26n.onnx")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported ONNX model
model = YOLO("yolo26n.onnx")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Đối số Export#

Khi xuất model YOLO26 sang định dạng ONNX, bạn có thể tùy chỉnh quy trình bằng nhiều argument để tối ưu cho nhu cầu triển khai cụ thể:

Để biết thêm chi tiết về quy trình export, hãy truy cập trang tài liệu Ultralytics về export.

Triển khai model YOLO26 ONNX đã xuất#

Sau khi xuất thành công các model Ultralytics YOLO26 sang định dạng ONNX, bước tiếp theo là triển khai những model này trong nhiều môi trường khác nhau. Để xem hướng dẫn chi tiết về cách triển khai model ONNX, hãy tham khảo các tài nguyên sau:

• Tài liệu ONNX Runtime Python API: Hướng dẫn này cung cấp thông tin thiết yếu để load và chạy model ONNX bằng ONNX Runtime.

• Triển khai trên thiết bị edge: Xem trang tài liệu này để tìm các ví dụ khác nhau về triển khai model ONNX trên thiết bị edge.

• Các tutorial ONNX trên GitHub: Bộ sưu tập các tutorial toàn diện, bao quát nhiều khía cạnh của việc sử dụng và triển khai model ONNX trong các kịch bản khác nhau.

• Triton Inference Server: Tìm hiểu cách triển khai model ONNX với Triton Inference Server của NVIDIA để có các phiên bản triển khai hiệu năng cao và khả năng mở rộng.

Tóm tắt#

Trong hướng dẫn này, bạn đã tìm hiểu cách xuất model Ultralytics YOLO26 sang định dạng ONNX để tăng khả năng tương tác và hiệu năng trên nhiều nền tảng. Bạn cũng đã được giới thiệu về ONNX Runtime và các tùy chọn triển khai ONNX.

Xuất ONNX chỉ là một trong nhiều định dạng xuất được Ultralytics YOLO26 hỗ trợ, cho phép bạn triển khai model trong gần như mọi môi trường. Tùy theo nhu cầu cụ thể, bạn cũng có thể khám phá các tùy chọn xuất khác như TensorRT để đạt hiệu năng GPU tối đa hoặc CoreML cho thiết bị Apple.

Để biết thêm chi tiết về cách sử dụng, hãy truy cập tài liệu chính thức của ONNX.

Ngoài ra, nếu muốn tìm hiểu thêm về các tích hợp Ultralytics YOLO26 khác, hãy truy cập trang hướng dẫn tích hợp của chúng tôi. Tại đó, bạn sẽ tìm thấy nhiều tài nguyên và thông tin hữu ích.

FAQ#