Bỏ để qua phần nội dung

Điểm chuẩn mô hình với Ultralytics YOLO

Ultralytics YOLO Hệ sinh thái và tích hợp

Benchmark Visualization

Refresh Browser

You may need to refresh the page to view the graphs correctly due to potential cookie issues.








Giới thiệu

Once your model is trained and validated, the next logical step is to evaluate its performance in various real-world scenarios. Benchmark mode in Ultralytics YOLO11 serves this purpose by providing a robust framework for assessing the speed and accuracy of your model across a range of export formats.



Xem: Ultralytics Chế độ Hướng dẫn: Điểm chuẩn

Tại sao điểm chuẩn lại quan trọng?

  • Quyết định sáng suốt: Có được thông tin chi tiết về sự đánh đổi giữa tốc độ và độ chính xác.
  • Phân bổ nguồn lực: Hiểu các định dạng xuất khác nhau hoạt động như thế nào trên các phần cứng khác nhau.
  • Tối ưu hóa: Tìm hiểu định dạng xuất nào mang lại hiệu suất tốt nhất cho trường hợp sử dụng cụ thể của bạn.
  • Hiệu quả chi phí: Sử dụng hiệu quả hơn tài nguyên phần cứng dựa trên kết quả điểm chuẩn.

Các chỉ số chính trong chế độ điểm chuẩn

  • mAP50-95: For object detection, segmentation, and pose estimation.
  • accuracy_top5: For image classification.
  • Thời gian suy luận: Thời gian thực hiện cho mỗi hình ảnh tính bằng mili giây.

Các định dạng xuất được hỗ trợ

  • ONNX: Để tối ưu CPU hiệu năng
  • TensorRT: Cho tối đa GPU hiệu quả
  • OpenVINO: Đối với Intel Tối ưu hóa phần cứng
  • CoreML, TensorFlow SavedModelvà hơn thế nữa: Dành cho nhu cầu triển khai đa dạng.

Mẹo

  • Xuất sang ONNX hoặc OpenVINO cho tối đa 3x CPU Speedup.
  • Xuất sang TensorRT cho tối đa 5x GPU Speedup.

Ví dụ sử dụng

Run YOLO11n benchmarks on all supported export formats including ONNX, TensorRT etc. See Arguments section below for a full list of export arguments.

Ví dụ

from ultralytics.utils.benchmarks import benchmark

# Benchmark on GPU
benchmark(model="yolo11n.pt", data="coco8.yaml", imgsz=640, half=False, device=0)
yolo benchmark model=yolo11n.pt data='coco8.yaml' imgsz=640 half=False device=0

Lập luận

Các đối số như model, data, imgsz, half, deviceverbose Cung cấp cho người dùng sự linh hoạt để tinh chỉnh các điểm chuẩn theo nhu cầu cụ thể của họ và so sánh hiệu suất của các định dạng xuất khác nhau một cách dễ dàng.

Chìa khoáGiá trị mặc địnhSự miêu tả
modelNoneChỉ định đường dẫn đến tệp mô hình. Chấp nhận cả hai .pt.yaml định dạng, ví dụ: "yolo11n.pt" cho các mô hình được đào tạo trước hoặc tệp cấu hình.
dataNonePath to a YAML file defining the dataset for benchmarking, typically including paths and settings for validation data. Example: "coco8.yaml".
imgsz640Kích thước hình ảnh đầu vào cho mô hình. Có thể là một số nguyên duy nhất cho hình ảnh vuông hoặc bộ dữ liệu (width, height) đối với không vuông, ví dụ: (640, 480).
halfFalseCho phép suy luận FP16 (nửa chính xác), giảm mức sử dụng bộ nhớ và có thể tăng tốc độ trên phần cứng tương thích. Dùng half=True để kích hoạt.
int8FalseKích hoạt lượng tử hóa INT8 để tối ưu hóa hơn nữa hiệu suất trên các thiết bị được hỗ trợ, đặc biệt hữu ích cho các thiết bị biên. Cài int8=True để sử dụng.
deviceNoneXác định (các) thiết bị tính toán để đo điểm chuẩn, chẳng hạn như "cpu", "cuda:0"hoặc danh sách các thiết bị như "cuda:0,1" cho nhiều -GPU Thiết lập.
verboseFalseKiểm soát mức độ chi tiết trong việc ghi nhật ký đầu ra. Giá trị boolean; cài verbose=True để biết nhật ký chi tiết hoặc phao cho các lỗi ngưỡng.

Định dạng xuất

Điểm chuẩn sẽ cố gắng chạy tự động trên tất cả các định dạng xuất có thể có bên dưới.

Định dạngformat Lý lẽMẫuSiêu dữ liệuLập luận
PyTorch-yolo11n.pt-
TorchScripttorchscriptyolo11n.torchscriptimgsz, optimize, batch
ONNXonnxyolo11n.onnximgsz, half, dynamic, simplify, opset, batch
OpenVINOopenvinoyolo11n_openvino_model/imgsz, half, int8, batch
TensorRTengineyolo11n.engineimgsz, half, dynamic, simplify, workspace, int8, batch
CoreMLcoremlyolo11n.mlpackageimgsz, half, int8, nms, batch
TF SavedModelsaved_modelyolo11n_saved_model/imgsz, keras, int8, batch
TF GraphDefpbyolo11n.pbimgsz, batch
TF Litetfliteyolo11n.tfliteimgsz, half, int8, batch
TF Cạnh TPUedgetpuyolo11n_edgetpu.tfliteimgsz
TF.Jstfjsyolo11n_web_model/imgsz, half, int8, batch
PaddlePaddlepaddleyolo11n_paddle_model/imgsz, batch
MNNmnnyolo11n.mnnimgsz, batch, int8, half
NCNNncnnyolo11n_ncnn_model/imgsz, half, batch

Xem đầy đủ export Chi tiết trong Xuất khẩu trang.

FAQ

How do I benchmark my YOLO11 model's performance using Ultralytics?

Ultralytics YOLO11 offers a Benchmark mode to assess your model's performance across different export formats. This mode provides insights into key metrics such as mean Average Precision (mAP50-95), accuracy, and inference time in milliseconds. To run benchmarks, you can use either Python or CLI commands. For example, to benchmark on a GPU:

Ví dụ

from ultralytics.utils.benchmarks import benchmark

# Benchmark on GPU
benchmark(model="yolo11n.pt", data="coco8.yaml", imgsz=640, half=False, device=0)
yolo benchmark model=yolo11n.pt data='coco8.yaml' imgsz=640 half=False device=0

Để biết thêm chi tiết về các đối số chuẩn, hãy truy cập phần Đối số .

What are the benefits of exporting YOLO11 models to different formats?

Exporting YOLO11 models to different formats such as ONNX, TensorRT, and OpenVINO allows you to optimize performance based on your deployment environment. For instance:

  • ONNX: Cung cấp lên đến 3x CPU Speedup.
  • TensorRT: Ưu đãi lên đến 5x GPU Speedup.
  • OpenVINO: Specifically optimized for Intel hardware. These formats enhance both the speed and accuracy of your models, making them more efficient for various real-world applications. Visit the Export page for complete details.

Why is benchmarking crucial in evaluating YOLO11 models?

Benchmarking your YOLO11 models is essential for several reasons:

  • Quyết định sáng suốt: Hiểu được sự đánh đổi giữa tốc độ và độ chính xác.
  • Phân bổ nguồn lực: Đánh giá hiệu suất trên các tùy chọn phần cứng khác nhau.
  • Tối ưu hóa: Xác định định dạng xuất nào cung cấp hiệu suất tốt nhất cho các trường hợp sử dụng cụ thể.
  • Cost Efficiency: Optimize hardware usage based on benchmark results. Key metrics such as mAP50-95, Top-5 accuracy, and inference time help in making these evaluations. Refer to the Key Metrics section for more information.

Which export formats are supported by YOLO11, and what are their advantages?

YOLO11 supports a variety of export formats, each tailored for specific hardware and use cases:

  • ONNX: Tốt nhất cho CPU hiệu năng.
  • TensorRT: Lý tưởng cho GPU hiệu quả.
  • OpenVINO: Tối ưu hóa cho Intel phần cứng.
  • CoreML & TensorFlow: Useful for iOS and general ML applications. For a complete list of supported formats and their respective advantages, check out the Supported Export Formats section.

What arguments can I use to fine-tune my YOLO11 benchmarks?

Khi chạy điểm chuẩn, một số đối số có thể được tùy chỉnh để phù hợp với nhu cầu cụ thể:

  • model: Path to the model file (e.g., "yolo11n.pt").
  • dữ liệu: Đường dẫn đến tệp YAML xác định tập dữ liệu (ví dụ: "coco8.yaml").
  • IMGSZ: Kích thước hình ảnh đầu vào, dưới dạng một số nguyên hoặc một bộ dữ liệu.
  • nửa: Bật suy luận FP16 để có hiệu suất tốt hơn.
  • INT8: Kích hoạt lượng tử hóa INT8 cho các thiết bị biên.
  • thiết bị: Chỉ định thiết bị tính toán (ví dụ: "cpu", "cuda:0").
  • verbose: Control the level of logging detail. For a full list of arguments, refer to the Arguments section.
📅 Created 11 months ago ✏️ Updated 1 day ago

Ý kiến