Tìm hiểu về End-to-End Detection trong Ultralytics YOLO26#

Các model theo phong cách phát hiện của YOLO26 — detection, segmentation, pose và OBB — mặc định không có NMS: chúng xuất ra các kết quả phát hiện cuối cùng trực tiếp từ model, không cần bước hậu xử lý Non-Maximum Suppression (NMS). Các model đời đầu như YOLOv8 và YOLO11 tạo ra hàng ngàn dự đoán chồng chéo mà một bước NMS riêng biệt phải lọc bớt, điều này làm tăng độ trễ, phức tạp hóa đồ thị xuất file và có thể hoạt động không đồng nhất trên các nền tảng phần cứng.

Điều này được gọi là phát hiện đối tượng đầu cuối (end-to-end) và tính năng này được bật theo mặc định. Kết quả là một pipeline triển khai đơn giản hơn và độ trễ thấp hơn — YOLO26n chạy nhanh hơn tới 43% so với YOLO11n trên suy luận CPU ONNX (Intel Xeon CPU @ 2.00 GHz).

Hướng dẫn này sẽ giúp bạn nắm bắt những thay đổi, liệu bạn có cần cập nhật code của mình không, những định dạng xuất nào hỗ trợ end-to-end inference và cách di chuyển mượt mà từ các model YOLO cũ hơn.

Để tìm hiểu sâu hơn về động lực đằng sau sự thay đổi kiến trúc này, hãy xem bài viết blog của Ultralytics về lý do YOLO26 loại bỏ NMS.

Cách thức hoạt động của End-to-End Detection#

YOLO26 sử dụng kiến trúc hai đầu (dual-head architecture) trong quá trình training. Cả hai đầu đều chia sẻ chung phần backbone và neck, nhưng tạo ra các đầu ra theo những cách khác nhau:

Các hình dạng trên dành cho detection, trong đó N là batch size, nc là số lượng lớp (ví dụ: 80 cho COCO), và số lượng anchor 8400 là giá trị tại imgsz=640. Các tác vụ khác mở rộng đầu ra một--một với dữ liệu bổ sung cho mỗi lần phát hiện:

Trong quá trình training, cả hai đầu chạy đồng thời — đầu one-to-many cung cấp tín hiệu học tập phong phú hơn, trong khi đầu one-to-one học cách tạo ra các dự đoán sạch, không chồng chéo. Trong quá trình inference và export, chỉ có đầu one-to-one hoạt động mặc định, tạo ra tối đa 300 phát hiện mỗi ảnh theo định dạng [x1, y1, x2, y2, confidence, class_id].

Khi bạn gọi model.fuse(), nó sẽ gộp các lớp Conv + BatchNorm để suy luận nhanh hơn và trên các model end-to-end, cũng sẽ loại bỏ đầu one-to-many — giúp giảm kích thước model và số lượng FLOP. Để biết thêm chi tiết về kiến trúc hai đầu, hãy xem trang model YOLO26.

Tôi có cần thay đổi code của mình không?#

Sử dụng Ultralytics Python API hoặc CLI#

Không cần thay đổi gì. Nếu bạn sử dụng Ultralytics Python API hoặc CLI tiêu chuẩn, mọi thứ sẽ hoạt động tự động — prediction, validation và export đều xử lý các model end-to-end ngay khi thiết lập.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Predict — no NMS step, no code changes
results = model.predict("image.jpg")

Sử dụng Custom Inference Code#

Có, định dạng đầu ra đã thay đổi. Nếu bạn đã viết logic hậu xử lý tùy chỉnh cho YOLOv8 hoặc YOLO11 (ví dụ: khi chạy suy luận với ONNX Runtime hoặc TensorRT), bạn sẽ cần cập nhật nó để xử lý hình dạng đầu ra mới:

Đối với các tác vụ segmentation, pose và OBB, YOLO26 đính kèm dữ liệu riêng của từng tác vụ vào mỗi phát hiện — hãy xem bảng hình dạng đầu ra.

Với các model end-to-end, quá trình hậu xử lý trở nên đơn giản hơn nhiều — ví dụ, khi sử dụng ONNX Runtime:

import onnxruntime as ort

# Load and run the exported end-to-end model
session = ort.InferenceSession("yolo26n.onnx")
output = session.run(None, {session.get_inputs()[0].name: input_tensor})

# End-to-end output: (batch, 300, 6) → [x1, y1, x2, y2, confidence, class_id]
detections = output[0][0]  # first image in batch
detections = detections[detections[:, 4] > 0.25]  # confidence filter, no NMS

Chuyển sang Head One-to-Many#

Nếu bạn cần định dạng đầu ra YOLO truyền thống (ví dụ: để tái sử dụng code hậu xử lý dựa trên NMS hiện có), bạn có thể chuyển sang đầu one-to-many khi nó khả dụng bằng cách thiết lập end2end=False:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Prediction with NMS (traditional behavior)
results = model.predict("image.jpg", end2end=False)

# Validation with NMS
metrics = model.val(data="coco.yaml", end2end=False)

# Export without end-to-end
model.export(format="onnx", end2end=False)

Khả năng tương thích định dạng xuất#

Hầu hết các định dạng xuất đều hỗ trợ suy luận end-to-end ngay lập tức, bao gồm ONNX, TensorRT, CoreML, OpenVINO, LiteRT và MNN.

Các định dạng sau không hỗ trợ end-to-end và sẽ tự động chuyển về đầu one-to-many: NCNN, RKNN, PaddlePaddle, ExecuTorch, IMX, Edge TPU và Qualcomm QNN.

Đối với Hailo, trình xuất chọn đường dẫn đầu ra từ phần đầu đã tải thay vì từ một đối số, vì vậy end2end sẽ bị từ chối nếu được truyền: một model phát hiện YOLO26 mặc định giữ lại các đầu ra một--một không có NMS, trong khi một checkpoint có phần đầu đã là end2end=False sẽ biên dịch đường dẫn truyền thống với HailoRT NMS.

Đánh đổi giữa độ chính xác và tốc độ#

Phát hiện end-to-end mang lại những lợi ích triển khai đáng kể với tác động tối thiểu đến độ chính xác:

Trên năm tỷ lệ phát hiện, phần đầu một--một tiêu tốn 0.6-0.8 mAP trên COCO — từ 40.9 xuống 40.1 đối với YOLO26n và từ 57.5 xuống 56.9 đối với YOLO26x — đổi lại là loại bỏ hoàn toàn quá trình NMS. Nếu độ chính xác tối đa là ưu tiên của bạn, hãy quay lại phần đầu một-nhiều với end2end=False.

Xem các chỉ số hiệu suất YOLO26 để biết các benchmark chi tiết trên tất cả các kích thước model (n, s, m, l, x).

Di chuyển từ YOLOv8 hoặc YOLO11#

Nếu bạn đang nâng cấp một dự án hiện có lên YOLO26:

• Người dùng Ultralytics API / CLI: Không cần thay đổi — chỉ cần cập nhật tên model thành yolo26n.pt (hoặc yolo26n-seg.pt, yolo26n-pose.pt, yolo26n-obb.pt)
• Code hậu xử lý tùy chỉnh: Cập nhật để xử lý các hình dạng đầu ra mới — (N, 300, 6) cho detection, cộng với dữ liệu cụ thể theo tác vụ cho segmentation, pose và OBB. Cũng lưu ý sự thay đổi định dạng box từ xywh sang xyxy
• Pipeline xuất: Kiểm tra phần khả năng tương thích định dạng cho định dạng mục tiêu của bạn
• TensorRT dưới 8.5.0: tính năng end-to-end bị tắt ở mọi độ chính xác — hãy nâng cấp TensorRT lên 8.5.0 hoặc mới hơn để giữ lại tính năng này
• Các bản xuất đã lượng tử hóa: TensorRT 10.3.0 với quantize=8 trên JetPack 6 và LiteRT với quantize=8 hoặc quantize="w8a16", tự động vô hiệu hóa end-to-end — hãy xuất ở độ chính xác cao hơn để giữ lại tính năng này
• Xuất FP16: Nếu bạn cần tất cả các đầu ra ở định dạng FP16, hãy xuất với end2end=False — xem lý do output0 giữ nguyên FP32
• iOS / CoreML: Tính năng end-to-end được hỗ trợ hoàn toàn. Nếu bạn cần hỗ trợ Xcode Preview, hãy sử dụng end2end=False với nms=True
• Thiết bị Edge (NCNN, RKNN): Các định dạng này tự động quay lại one-to-many, vì vậy hãy bao gồm NMS trong pipeline trên thiết bị của bạn

Kết luận#

Phát hiện end-to-end là mặc định trong YOLO26 và không cần thay đổi code nếu bạn sử dụng Ultralytics Python API hoặc CLI. Chỉ các pipeline hậu xử lý tùy chỉnh mới cần cập nhật để đọc đầu ra (N, 300, 6) mới và loại bỏ bước NMS — ngoại trừ các định dạng xuất quay về đầu ra one-to-many (như NCNN và RKNN), vốn vẫn yêu cầu NMS trên thiết bị. Để biết các benchmark chi tiết về tốc độ và độ chính xác trên tất cả các kích thước model, hãy xem trang model YOLO26, và để xem toàn bộ các tùy chọn và định dạng xuất, hãy tham khảo tài liệu Export mode.

Câu hỏi thường gặp#