Xuất CoreML cho Model YOLO26#

Apple tích hợp silicon AI chuyên dụng — Neural Engine — trong mọi iPhone, iPad và Mac hiện đại, và CoreML là phương thức được Ultralytics hỗ trợ để triển khai model lên đó hiện nay. Việc xuất model Ultralytics YOLO26 sang CoreML chuyển một checkpoint .pt đã huấn luyện thành một .mlpackage native, có thể chạy cả bảy tác vụ YOLO trực tiếp trên thiết bị với độ trễ thấp, không cần kết nối mạng và không để dữ liệu rời khỏi thiết bị.

CoreML là gì?#

CoreML (được Apple gọi theo kiểu viết là "Core ML") là framework machine learning on-device của Apple. Framework này tải model ở định dạng ML Program hiện đại — bundle .mlpackage do Ultralytics exporter tạo ra — và lập lịch chạy chúng trên CPU, GPU và Apple Neural Engine (ANE) của thiết bị, NPU chuyên dụng trong mọi chip silicon của Apple. Vì mọi thứ đều chạy cục bộ, inference hoạt động offline, không phát sinh độ trễ mạng và giữ dữ liệu người dùng trên thiết bị.

CoreML tích hợp trực tiếp với Vision framework của Apple, framework này xử lý việc scale và định hướng ảnh trước khi đưa vào model — đây là cách Ultralytics iOS SDK truyền các frame camera đến YOLO với chi phí preprocessing gần như bằng không.

Tại sao nên xuất YOLO26 sang CoreML?#

• Tốc độ Neural Engine: CoreML lập lịch các operation được hỗ trợ trên Neural Engine của Apple để inference on-device có độ trễ thấp. Xem bảng trên thiết bị thực bên dưới và benchmark bản export chính xác của bạn trên phần cứng mục tiêu.
• Chọn đầu ra: Các bản xuất mặc định để NMS cho ứng dụng của bạn xử lý. Sử dụng nms=True để nhúng NMS hoặc nms=False cho đầu không có NMS của YOLO26.
• Riêng tư và offline: Mọi phép tính đều được thực hiện trên thiết bị — không có lượt trao đổi với cloud, không cần API key và bảo đảm quyền riêng tư dữ liệu đầy đủ.
• Một lần export, toàn bộ hệ sinh thái: Cùng một .mlpackage chạy trên iOS, iPadOS, macOS, watchOS, tvOS và visionOS, đồng thời cung cấp nền tảng cho iOS SDK và Flutter plugin chính thức của Ultralytics.

Hiệu năng đo được#

Inference end-to-end trên ảnh đơn đối với các asset CoreML YOLO26n INT8 v8.3.0 được chuẩn hóa trên iPhone 17 Pro với bộ nhớ 12 GB và iOS 26.5.2. A19 Pro của thiết bị có CPU 6 lõi (2 lõi Performance và 4 lõi Efficiency), GPU 6 lõi với Neural Accelerators và Neural Engine 16 lõi. Mỗi ô hiển thị tổng thời gian (preprocessing + inference + postprocessing, không bao gồm annotation) cùng với phân tách từng giai đoạn bên dưới. Trên iOS, Vision thực hiện scale input bên trong request inference, do đó preprocessing được báo cáo là 0 và chi phí của bước này được tính vào inference.

• Các asset release v8.3.0 chính xác khai báo input 224×224 cho classification và 640×640 cho mọi tác vụ khác.
• Các giá trị Speed là độ trễ burst trên ảnh đơn — trung bình của 15 lần chạy sau 3 lần warmup trên bus.jpg, được đo qua timing từng giai đoạn của iOS SDK bằng benchmark harness của Flutter plugin ở profile mode (native code đã tối ưu). Thứ tự CPU/accelerator được luân phiên giữa các tác vụ trong một lượt chạy tuần tự. Các dòng CPU yêu cầu Core ML .cpuOnly; các dòng CPU + ANE ưu tiên yêu cầu .cpuAndNeuralEngine, trong đó vị trí operation cuối cùng do Core ML kiểm soát. Hoạt động camera theo thời gian thực kéo dài có tốc độ cao hơn vì bao gồm pipeline capture và scaling cùng quá trình ổn định nhiệt. Một lượt đo camera lịch sử trước khi chuẩn hóa đạt 11.3 ms/frame cho detect YOLO26n và 16.5 ms/frame cho Depth YOLO26n trên cùng thiết bị — xem tài liệu hiệu năng iOS SDK để profiling trạng thái ổn định.
• So sánh kết quả CPU/GPU trên Android trong tích hợp LiteRT và kết quả NPU Snapdragon trong tích hợp Qualcomm QNN.

Các Task được hỗ trợ#

Export CoreML hỗ trợ cả bảy tác vụ Ultralytics. Semantic segmentation và depth estimation chỉ khả dụng với YOLO26, là family duy nhất cung cấp các head này.

Xuất Model YOLO26 sang CoreML#

Cài đặt#

Để cài đặt package bắt buộc, hãy chạy:

# Install the required package for YOLO26
pip install ultralytics

Converter coremltools được tự động cài đặt trong lần export đầu tiên. Export chạy trên macOS hoặc Linux x86; để xem hướng dẫn chi tiết và best practice, hãy tham khảo hướng dẫn cài đặt và hướng dẫn Common Issues.

Cách sử dụng#

Định dạng CoreML hỗ trợ các mode Export, Predict và Validate. Inference và validation với CoreML chỉ chạy trên macOS. Hãy export model, sau đó load model đã export để chạy inference hoặc validate độ chính xác.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export to CoreML with INT8 weight quantization, matching the official app models
model.export(format="coreml", quantize=8, imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported CoreML model (macOS)
model = YOLO("yolo26n.mlpackage")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported CoreML model (macOS)
model = YOLO("yolo26n.mlpackage")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Đối số Export#

Để biết thêm chi tiết về quy trình export, hãy truy cập trang tài liệu Ultralytics về export.

Nhắm mục tiêu Neural Engine#

CoreML chọn phần cứng thông qua MLModelConfiguration.computeUnits. Ultralytics iOS SDK mặc định sử dụng .cpuAndNeuralEngine trên iOS 16+ thay vì .all: trong ứng dụng camera theo thời gian thực, GPU đã bận compositing preview và overlay, nên loại GPU khỏi lựa chọn giúp tránh tranh chấp tài nguyên và jitter thời gian frame trong khi ANE xử lý phần nặng. Chỉ cố định .cpuOnly để kiểm thử khả năng tương thích — bảng trên cho thấy chi phí của lựa chọn này.

Chạy model CoreML từ Python trên Mac host (thông qua Ultralytics hoặc coremltools) tuân theo quy tắc tương tự: Ultralytics load bằng ComputeUnit.CPU_AND_NE (macOS 13+, fallback về CPU_ONLY trên macOS cũ hơn), giữ inference trên Neural Engine (nhanh hơn CPU khoảng ~3 lần). Cách này cũng tránh một hạn chế hiện tại của macOS host, trong đó ComputeUnit.ALL / CPU_AND_GPU mặc định — bổ sung GPU/MPSGraph compile path — khiến process bị hủy với assertion Error: MLIR pass manager failed trên coremltools 9.x.

Triển khai Model YOLO26 CoreML đã Export#

Cách nhanh nhất là sử dụng Ultralytics YOLO iOS SDK chính thức, cùng Swift package cung cấp nền tảng cho ứng dụng iOS Ultralytics và Flutter plugin. SDK tự động phân giải tên model chính thức, tải xuống và cache .mlpackage, đồng thời trả về kết quả đã decode hoàn chỉnh:

import UltralyticsYOLO

// Loads the official INT8 model (downloaded and cached on first use), then runs inference
let yolo = YOLO("yolo26n", task: .detect) { result in
    if case .success(let model) = result {
        let results = model(uiImage)  // boxes, labels, confidences, timing
    }
}

Đối với ứng dụng camera, hãy thêm YOLOView của SDK để inference theo thời gian thực với overlay native, hoặc sử dụng Flutter plugin cho ứng dụng đa nền tảng dùng chung một codebase với Android.

Tự tích hợp raw .mlpackage cũng rất đơn giản với stack của Apple — load bằng MLModel, bọc trong một VNCoreMLRequest và truyền ảnh qua VNImageRequestHandler. Các tài nguyên sau trình bày chi tiết:

• Tích hợp Model Core ML vào Ứng dụng của bạn: Hướng dẫn của Apple về cách đóng gói và gọi model CoreML.
• CoreML Tools: Tài liệu tham khảo về chuyển đổi, quantization và tối ưu hóa cho toolchain coremltools cung cấp nền tảng cho quá trình export này.
• Báo cáo Hiệu năng Core ML của Xcode: Profiling vị trí triển khai từng layer và độ trễ cho chính xác model và thiết bị của bạn.

Đóng gói model trực tiếp trong app bundle (có ngay lập tức, lý tưởng cho model nano/small) hoặc tải xuống trong lần chạy đầu tiên và cache (binary nhỏ hơn, dễ cập nhật model). Các ứng dụng chính thức kết hợp cả hai phương pháp: model nano mặc định được đóng gói để sử dụng ngay, còn các biến thể lớn hơn được tải theo yêu cầu và cache cục bộ.

Workflow Khuyến nghị#

1. Train model bằng Train mode của Ultralytics hoặc bắt đầu từ weight YOLO26 chính thức
2. Export bằng model.export(format="coreml", quantize=8, imgsz=640) trên macOS hoặc Linux x86 (imgsz=224 cho classification)
3. Verify độ chính xác bằng model.val() trên Mac và profiling bằng Xcode Core ML Performance Report trên thiết bị mục tiêu
4. Deploy bằng iOS SDK, Flutter plugin hoặc Vision integration của riêng bạn, nhắm đến .cpuAndNeuralEngine

Tóm tắt#

Trong hướng dẫn này, bạn đã học cách export model Ultralytics YOLO26 sang định dạng .mlpackage của CoreML, quantize chúng cho Apple Neural Engine và triển khai với độ trễ chỉ vài mili giây — thông qua iOS SDK và Flutter plugin chính thức hoặc Vision integration của riêng bạn. Đối với các mục tiêu triển khai khác, hãy xem trang hướng dẫn integration và so sánh các định dạng bằng Benchmark mode.

FAQ#