Chưng cất tri thức#

Bắt đầu nhanh#

Huấn luyện một model student nhỏ hơn với sự hướng dẫn từ model teacher lớn hơn bằng cách thêm đối số distill_model:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=100, distill_model="yolo26s.pt")

Chưng cất tri thức là gì?#

Chưng cất tri thức truyền tri thức từ model teacher lớn, có độ chính xác cao sang model student nhỏ hơn. Student học cách mô phỏng các biểu diễn đặc trưng bên trong của teacher, thường đạt độ chính xác cao hơn so với huấn luyện từ đầu.

Dùng chưng cất khi:

• Bạn cần một model nhỏ hơn, nhanh hơn để triển khai
• Bạn có model teacher đạt độ chính xác cao, được huấn luyện trên cùng dữ liệu
• Bạn muốn đạt độ chính xác cao hơn so với huấn luyện tiêu chuẩn

Hiệu năng#

Chưng cất tri thức cải thiện mAP của student trên toàn bộ dòng YOLO26 khi dùng COCO, mà không làm tăng chi phí inference. Bảng dưới đây so sánh các model YOLO26 tiêu chuẩn (baseline) với chính các model đó khi được huấn luyện bằng phương pháp chưng cất từ teacher được đề xuất.

• Các giá trị mAP^val áp dụng cho thiết lập một model, một tỷ lệ trên dataset COCO val2017.
  Tái tạo một hàng đã chưng cất bằng yolo val detect model=yolo26n-distill.pt data=coco.yaml device=0; thêm nms=False cho cột e2e.
• Các giá trị e2e sử dụng luồng inference không cần NMS (nms=False); các giá trị không phải e2e sử dụng hậu xử lý NMS mặc định (nms=None). Xem Phát hiện đầu cuối để biết chi tiết.

Điều kiện tiên quyết#

Trước khi bắt đầu, hãy đảm bảo bạn đáp ứng các yêu cầu sau:

• Model teacher đã huấn luyện: checkpoint .pt thuộc cùng dòng YOLO với student.
• Tác vụ tương ứng: dùng teacher cho cùng tác vụ với student và huấn luyện teacher trên dữ liệu phù hợp.
• Tài nguyên GPU: đủ bộ nhớ để chứa cả hai model; teacher chỉ chạy forward, không có gradient hoặc trạng thái optimizer.

Các cặp model được đề xuất#

Chưng cất giữa các dòng model khác nhau (ví dụ: teacher YOLO11 với student YOLO26) không được hỗ trợ.

Các tham số chính#

Cách hoạt động#

1. Model teacher được giữ cố định ở chế độ eval và chạy inference trên từng batch
2. Model student được huấn luyện bằng các loss tiêu chuẩn của tác vụ cùng với hướng dẫn chưng cất
3. Đặc trưng được trích xuất từ cả hai model tại ba layer neck cấp dữ liệu cho head thuộc dòng Detect
4. Một projector gồm hai phép tích chập 1×1 với ReLU điều chỉnh từng feature map của student cho khớp với số kênh của teacher
5. Loss L2 có trọng số theo điểm số so sánh đặc trưng student đã qua projector với đặc trưng teacher, trong đó trọng số dựa trên độ tin cậy phân loại của teacher
6. Loss chưng cất được kết hợp với các loss tiêu chuẩn bằng trọng số dis

flowchart TD
    A[Input Image Batch]:::start --> T[Teacher Model<br/>frozen, eval mode]:::extern
    A --> S[Student Model<br/>trainable]:::proc

    T --> |Detect head inputs| TF[Teacher Features]:::extern
    S --> |Detect head inputs| SF[Student Features]:::proc

    SF --> P[1×1 Conv Projector<br/>with ReLU]:::decide
    P --> AF[Aligned Student Features]:::proc

    TF --> SW[Score-weighted L2 Loss]:::proc
    AF --> SW

    S --> D[Detection Head]:::proc
    D --> DL[box_loss + cls_loss + l1_loss]:::proc

    SW --> |× dis| DIS[distillation loss]:::proc
    DL --> TOTAL[Total Loss]:::out
    DIS --> TOTAL

    TOTAL --> BP[Backpropagate<br/>Student + Projector only]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef extern fill:#607D8B,color:#fff

Hỗ trợ tác vụ#

Phần triển khai chưng cất trích xuất đặc trưng từ ba layer neck cấp dữ liệu cho head thuộc dòng Detect của model. Vì các head segment, pose và obb kế thừa cùng kiến trúc Detect, phương pháp chưng cất cũng tương thích về mặt kỹ thuật với các tác vụ đó.

Phân loại, phân đoạn ngữ nghĩa, ước lượng độ sâu và RT-DETR không dùng head tương thích thuộc dòng Detect nên không được hỗ trợ.

from ultralytics import YOLO

# Segment
model = YOLO("yolo26n-seg.pt")
model.train(data="coco8-seg.yaml", epochs=100, distill_model="yolo26s-seg.pt")

# Pose
model = YOLO("yolo26n-pose.pt")
model.train(data="coco8-pose.yaml", epochs=100, distill_model="yolo26s-pose.pt")

# OBB
model = YOLO("yolo26n-obb.pt")
model.train(data="dota8.yaml", epochs=100, distill_model="yolo26s-obb.pt")

Huấn luyện#

Huấn luyện cơ bản#

Huấn luyện bằng phương pháp chưng cất giống hệt huấn luyện tiêu chuẩn. Cung cấp đường dẫn distill_model để bật tính năng này:

from ultralytics import YOLO

# Nạp model student
student = YOLO("yolo26m.pt")

# Huấn luyện bằng chưng cất tri thức từ model teacher lớn hơn
results = student.train(data="coco8.yaml", epochs=100, distill_model="yolo26x.pt")

Điều chỉnh trọng số loss chưng cất#

Tham số dis (mặc định: 6.0) kiểm soát mức đóng góp của loss chưng cất:

from ultralytics import YOLO

student = YOLO("yolo26n.pt")
results = student.train(data="coco8.yaml", epochs=100, distill_model="yolo26s.pt", dis=10.0)

Tiếp tục huấn luyện chưng cất#

Quá trình huấn luyện chưng cất hỗ trợ tiếp tục từ checkpoint. Model teacher được dựng lại tự động từ đường dẫn distill_model được ghi trong checkpoint:

from ultralytics import YOLO

student = YOLO("runs/detect/train/weights/last.pt")
results = student.train(resume=True)

Đầu ra huấn luyện#

Khi bật chưng cất, một cột dis_loss bổ sung sẽ xuất hiện trong log huấn luyện:

      Epoch    GPU_mem   box_loss   cls_loss    l1_loss   dis_loss  Instances       Size
      1/80      46.2G      1.566      5.404    0.003249      6.658        231        640

Model được export chỉ chứa trọng số student—kích thước file và tốc độ inference tương đương với model student được huấn luyện theo cách thông thường.

Câu hỏi thường gặp#