Bỏ để qua phần nội dung

Xuất mô hình với Ultralytics YOLO

Ultralytics YOLO Hệ sinh thái và tích hợp

Giới thiệu

Mục tiêu cuối cùng của việc đào tạo một mô hình là triển khai nó cho các ứng dụng trong thế giới thực. Chế độ xuất trong Ultralytics YOLOv8 Cung cấp một loạt các tùy chọn linh hoạt để xuất mô hình đã đào tạo của bạn sang các định dạng khác nhau, giúp nó có thể triển khai trên nhiều nền tảng và thiết bị khác nhau. Hướng dẫn toàn diện này nhằm mục đích hướng dẫn bạn qua các sắc thái của xuất mô hình, giới thiệu cách đạt được khả năng tương thích và hiệu suất tối đa.



Xem: Làm thế nào để xuất khẩu tùy chỉnh đào tạo Ultralytics YOLOv8 Mô hình hóa và chạy suy luận trực tiếp trên webcam.

Tại sao chọn YOLOv8Chế độ xuất của bạn?

  • Linh hoạt: Xuất sang nhiều định dạng bao gồm: ONNX, TensorRT, CoreMLvà hơn thế nữa.
  • Hiệu năng: Tăng tới 5 lần GPU Tăng tốc với TensorRT và 3x CPU Tăng tốc với ONNX hoặc OpenVINO.
  • Tương thích: Làm cho mô hình của bạn có thể triển khai phổ biến trên nhiều môi trường phần cứng và phần mềm.
  • Dễ sử dụng: Giản dị CLI và Python API để xuất mô hình nhanh chóng và đơn giản.

Các tính năng chính của chế độ xuất khẩu

Dưới đây là một số chức năng nổi bật:

  • Xuất bằng một cú nhấp chuột: Các lệnh đơn giản để xuất sang các định dạng khác nhau.
  • Xuất khẩu hàng loạt: Xuất các mô hình có khả năng suy luận hàng loạt.
  • Suy luận được tối ưu hóa: Các mô hình đã xuất được tối ưu hóa để có thời gian suy luận nhanh hơn.
  • Video hướng dẫn: Hướng dẫn và hướng dẫn chuyên sâu để có trải nghiệm xuất mượt mà.

Mẹo

  • Xuất sang ONNX hoặc OpenVINO cho tối đa 3x CPU Speedup.
  • Xuất sang TensorRT cho tối đa 5x GPU Speedup.

Ví dụ sử dụng

Xuất một YOLOv8n mô hình sang một định dạng khác như ONNX hoặc TensorRT. Xem phần Đối số bên dưới để biết danh sách đầy đủ các đối số xuất.

Ví dụ

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolov8n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Lập luận

Bảng này chi tiết các cấu hình và tùy chọn có sẵn để xuất YOLO mô hình đến các định dạng khác nhau. Các cài đặt này rất quan trọng để tối ưu hóa hiệu suất, kích thước và khả năng tương thích của mô hình đã xuất trên các nền tảng và môi trường khác nhau. Cấu hình phù hợp đảm bảo rằng mô hình đã sẵn sàng để triển khai trong ứng dụng dự định với hiệu quả tối ưu.

Lý lẽ Kiểu Mặc định Sự miêu tả
format str 'torchscript' Định dạng đích cho mô hình đã xuất, chẳng hạn như 'onnx', 'torchscript', 'tensorflow'hoặc các môi trường khác, xác định khả năng tương thích với các môi trường triển khai khác nhau.
imgsz int hoặc tuple 640 Kích thước hình ảnh mong muốn cho đầu vào mô hình. Có thể là số nguyên cho hình vuông hoặc bộ dữ liệu (height, width) cho các kích thước cụ thể.
keras bool False Cho phép xuất sang định dạng Keras cho TensorFlow SavedModel, cung cấp khả năng tương thích với TensorFlow phục vụ và API.
optimize bool False Áp dụng tối ưu hóa cho thiết bị di động khi xuất sang TorchScript, có khả năng giảm kích thước mô hình và cải thiện hiệu suất.
half bool False Cho phép lượng tử hóa FP16 (nửa chính xác), giảm kích thước mô hình và có khả năng tăng tốc độ suy luận trên phần cứng được hỗ trợ.
int8 bool False Kích hoạt lượng tử hóa INT8, tiếp tục nén mô hình và tăng tốc độ suy luận với tổn thất độ chính xác tối thiểu, chủ yếu cho các thiết bị biên.
dynamic bool False Cho phép kích thước đầu vào động cho ONNX và TensorRT xuất khẩu, tăng cường tính linh hoạt trong việc xử lý các kích thước hình ảnh khác nhau.
simplify bool False Đơn giản hóa biểu đồ mô hình cho ONNX xuất khẩu với onnxslim, có khả năng cải thiện hiệu suất và khả năng tương thích.
opset int None Chỉ định ONNX Phiên bản opset để tương thích với khác nhau ONNX Trình phân tích cú pháp và thời gian chạy. Nếu không được đặt, hãy sử dụng phiên bản được hỗ trợ mới nhất.
workspace float 4.0 Đặt kích thước không gian làm việc tối đa trong GiB cho TensorRT tối ưu hóa, cân bằng giữa việc sử dụng bộ nhớ và hiệu suất.
nms bool False Thêm chế áp không tối đa (NMS) vào CoreML xuất khẩu, cần thiết để xử lý hậu kỳ phát hiện chính xác và hiệu quả.
batch int 1 Chỉ định kích thước suy luận hàng loạt mô hình xuất hoặc số lượng hình ảnh tối đa mà mô hình đã xuất sẽ xử lý đồng thời trong predict chế độ.

Điều chỉnh các tham số này cho phép tùy chỉnh quy trình xuất để phù hợp với các yêu cầu cụ thể, chẳng hạn như môi trường triển khai, ràng buộc phần cứng và mục tiêu hiệu suất. Chọn định dạng và cài đặt thích hợp là điều cần thiết để đạt được sự cân bằng tốt nhất giữa kích thước, tốc độ và độ chính xác của mô hình.

Định dạng xuất

Có sẵn YOLOv8 Định dạng xuất có trong bảng dưới đây. Bạn có thể xuất sang bất kỳ định dạng nào bằng cách sử dụng format lập luận, tức là format='onnx' hoặc format='engine'. Bạn có thể dự đoán hoặc xác thực trực tiếp trên các mô hình đã xuất, tức là yolo predict model=yolov8n.onnx. Ví dụ sử dụng được hiển thị cho mô hình của bạn sau khi xuất hoàn tất.

Định dạng format Lý lẽ Mẫu Siêu dữ liệu Lập luận
PyTorch - yolov8n.pt ✅ -
TorchScript torchscript yolov8n.torchscript ✅ imgsz, optimize, batch
ONNX onnx yolov8n.onnx ✅ imgsz, half, dynamic, simplify, opset, batch
OpenVINO openvino yolov8n_openvino_model/ ✅ imgsz, half, int8, batch
TensorRT engine yolov8n.engine ✅ imgsz, half, dynamic, simplify, workspace, int8, batch
CoreML coreml yolov8n.mlpackage ✅ imgsz, half, int8, nms, batch
TF SavedModel saved_model yolov8n_saved_model/ ✅ imgsz, keras, int8, batch
TF GraphDef pb yolov8n.pb ❌ imgsz, batch
TF Lite tflite yolov8n.tflite ✅ imgsz, half, int8, batch
TF Cạnh TPU edgetpu yolov8n_edgetpu.tflite ✅ imgsz
TF.Js tfjs yolov8n_web_model/ ✅ imgsz, half, int8, batch
PaddlePaddle paddle yolov8n_paddle_model/ ✅ imgsz, batch
NCNN ncnn yolov8n_ncnn_model/ ✅ imgsz, half, batch

FAQ

Làm cách nào để xuất một YOLOv8 Mô hình để ONNX định dạng?

Xuất khẩu một YOLOv8 Mô hình để ONNX định dạng đơn giản với Ultralytics. Nó cung cấp cả hai Python và CLI phương pháp xuất mô hình.

Ví dụ

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolov8n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Để biết thêm chi tiết về quy trình, bao gồm các tùy chọn nâng cao như xử lý các kích thước đầu vào khác nhau, hãy tham khảo ONNX phần.

Lợi ích của việc sử dụng là gì TensorRT để xuất mô hình?

Sử dụng TensorRT Đối với xuất khẩu mô hình cung cấp những cải tiến hiệu suất đáng kể. YOLOv8 Mô hình xuất khẩu sang TensorRT Có thể đạt được gấp 5 lần GPU Tăng tốc, làm cho nó trở nên lý tưởng cho các ứng dụng suy luận thời gian thực.

  • Linh hoạt: Tối ưu hóa các mô hình cho một thiết lập phần cứng cụ thể.
  • Tốc độ: Đạt được suy luận nhanh hơn thông qua tối ưu hóa nâng cao.
  • Tương thích: Tích hợp trơn tru với NVIDIA phần cứng.

Để tìm hiểu thêm về cách tích hợp TensorRT, xem TensorRT Hướng dẫn tích hợp.

Làm cách nào để bật lượng tử hóa INT8 khi xuất YOLOv8 mẫu?

Lượng tử hóa INT8 là một cách tuyệt vời để nén mô hình và tăng tốc độ suy luận, đặc biệt là trên các thiết bị biên. Đây là cách bạn có thể kích hoạt lượng tử hóa INT8:

Ví dụ

from ultralytics import YOLO

model = YOLO("yolov8n.pt")  # Load a model
model.export(format="onnx", int8=True)

yolo export model=yolov8n.pt format=onnx int8=True   # export model with INT8 quantization

Lượng tử hóa INT8 có thể được áp dụng cho các định dạng khác nhau, chẳng hạn như TensorRT và CoreML. Thông tin chi tiết có thể được tìm thấy trong phần Xuất .

Tại sao kích thước đầu vào động lại quan trọng khi xuất mô hình?

Kích thước đầu vào động cho phép mô hình được xuất xử lý các kích thước hình ảnh khác nhau, mang lại sự linh hoạt và tối ưu hóa hiệu quả xử lý cho các trường hợp sử dụng khác nhau. Khi xuất sang các định dạng như ONNX hoặc TensorRT, cho phép kích thước đầu vào động đảm bảo rằng mô hình có thể thích ứng liền mạch với các hình dạng đầu vào khác nhau.

Để bật tính năng này, hãy sử dụng dynamic=True Cờ trong quá trình xuất:

Ví dụ

from ultralytics import YOLO

model = YOLO("yolov8n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolov8n.pt format=onnx dynamic=True

Để biết thêm ngữ cảnh, hãy tham khảo cấu hình kích thước đầu vào động.

Các đối số xuất khẩu chính cần xem xét để tối ưu hóa hiệu suất mô hình là gì?

Hiểu và định cấu hình các đối số xuất là rất quan trọng để tối ưu hóa hiệu suất mô hình:

  • format: Định dạng đích cho mô hình đã xuất (ví dụ: onnx, torchscript, tensorflow).
  • imgsz: Kích thước hình ảnh mong muốn cho đầu vào mô hình (ví dụ: 640 hoặc (height, width)).
  • half: Cho phép lượng tử hóa FP16, giảm kích thước mô hình và có khả năng tăng tốc độ suy luận.
  • optimize: Áp dụng các tối ưu hóa cụ thể cho môi trường di động hoặc bị hạn chế.
  • int8: Cho phép lượng tử hóa INT8, rất có lợi cho việc triển khai biên.

Để biết danh sách chi tiết và giải thích về tất cả các đối số xuất, hãy truy cập phần Đối số xuất .



Đã tạo 2023-11-12, Cập nhật 2024-07-04
Tác giả: Glenn-Jocher (17), Burhan-Q (4), Kayzwer (2)

Ý kiến