Xuất các model YOLO sang LiteRT để triển khai trên Edge và Web#
LiteRT (viết tắt của Lite Runtime) là môi trường chạy hiệu năng cao của Google dành cho AI trên thiết bị. Đây là thế hệ tiếp theo và là tên gọi mới của TensorFlow Lite (TFLite), chạy cùng định dạng mô hình .tflite. Với LiteRT, một mô hình Ultralytics YOLO được xuất ra duy nhất có thể triển khai trên di động, thiết bị nhúng, biên và trình duyệt — bao gồm mọi tính năng mà các định dạng xuất tflite và tfjs cũ hơn xử lý riêng biệt, giờ đây được tích hợp dưới một nền tảng duy nhất.
Định dạng xuất LiteRT tối ưu hóa các mô hình của bạn cho các tác vụ như object detection, segmentation, pose estimation và classification để chúng chạy nhanh và ngoại tuyến trên nhiều loại thiết bị.
Ultralytics YOLO Flutter plugin chính thức chạy các bản xuất LiteRT .tflite trên Android ngay khi thiết lập — suy luận camera thời gian thực, dự đoán trên một ảnh đơn, tăng tốc GPU và tự động tải mô hình cho cả bảy tác vụ YOLO26, bao gồm cả Depth. Đối với các thiết bị Apple, hãy sử dụng CoreML export; đối với NPU Qualcomm Snapdragon, hãy xem Qualcomm QNN integration.
Xuất các mô hình classification tại imgsz=224. Xuất các mô hình detect, segment, semantic, depth, pose và OBB tại
imgsz=640. Tiêu chuẩn 224/640 này được chia sẻ bởi các tài nguyên di động LiteRT, CoreML và QNN chính thức.
Ultralytics YOLO NPM package chính thức chạy các bản xuất LiteRT .tflite trực tiếp trong trình duyệt thông qua LiteRT.js mà không cần máy chủ hay Python — với suy luận webcam thời gian thực, dự đoán trên một ảnh đơn và tăng tốc WebGPU (tự động dự phòng CPU/WASM) trên cả sáu tác vụ YOLO26 (detect, segment, pose, OBB, classify, semantic). Trên WebGPU, tốc độ này thường nhanh hơn ~2 lần so với ONNX Runtime Web.
npm i @ultralytics/yolo @litertjs/coreTại sao bạn nên xuất sang LiteRT?#
LiteRT là một framework mã nguồn mở được thiết kế cho suy luận trên thiết bị, còn được gọi là edge computing. Nó cung cấp cho các nhà phát triển các công cụ để thực thi các mô hình đã huấn luyện trên thiết bị di động, thiết bị nhúng và IoT, máy tính truyền thống và — thông qua LiteRT.js — trực tiếp trong trình duyệt web và Node.js.
Một định dạng model, mọi đích đến:
- Di động & Nhúng: Android, iOS, Linux nhúng và vi điều khiển (MCU).
- Edge accelerators: Tương thích với Coral Edge TPU để tăng tốc hơn nữa.
- Browser & Node.js: LiteRT.js chạy cùng mô hình
.tflitetrên web với tính năng tăng tốc WebGPU/WASM — loại bỏ nhu cầu về một bản xuất TensorFlow.js riêng biệt.
Các tính năng chính của model LiteRT#
- Tối ưu hóa trên thiết bị: Giảm độ trễ bằng cách xử lý dữ liệu cục bộ, tăng cường quyền riêng tư bằng cách không truyền dữ liệu cá nhân và giảm thiểu kích thước model để tiết kiệm dung lượng.
- Hỗ trợ đa nền tảng: Chạy trên Android, iOS, Linux nhúng, vi điều khiển và các trình duyệt web hiện đại.
- Tăng tốc phần cứng: Tận dụng XNNPACK trên CPU và tăng tốc GPU thông qua OpenCL, Metal và WebGPU. Delegate GPU chạy ở chế độ FP16 theo mặc định để tăng thêm tốc độ.
- Quantization: Hỗ trợ FP32, INT8 tĩnh (
quantize=8, trọng số int8 + kích hoạt int8), INT16-activation tĩnh (quantize="w8a16", trọng số int8 + kích hoạt int16 để có độ chính xác cao hơn) và INT8 động (quantize="w8a32", trọng số int8 + kích hoạt FP32, không cần dữ liệu hiệu chuẩn) để nén mô hình và tăng tốc độ suy luận với mức suy giảm accuracy tối thiểu. - Hỗ trợ đa ngôn ngữ: Tương thích với Java/Kotlin, Swift, Objective-C, C++, Python và JavaScript.
Hiệu suất đo lường#
Hardware: Xiaomi 17 với bộ nhớ 12 GB LPDDR5X và Android 16 / API 36. Snapdragon 8 Elite Gen 5 (SM8850) 3 nm của nó có CPU Qualcomm Oryon 8 nhân (2 nhân Prime lên đến 4,6 GHz và 6 nhân Performance lên đến 3,62 GHz), GPU Adreno và Hexagon NPU.
| Mô hình | Tác vụ | kích thước (pixel) | CPU w8a32 LiteRT (ms) | GPU w8a32 LiteRT (ms) |
|---|---|---|---|---|
| YOLO26n | Detect | 640 | 52.2 1.8 / 48.1 / 2.4 | 15.8 2.3 / 8.9 / 4.6 |
| YOLO26n-seg | Segment | 640 | 73.4 1.8 / 65.6 / 6.0 | 33.2 1.8 / 23.8 / 7.6 |
| YOLO26n-sem | Ngữ nghĩa | 640 | 61.2 1.8 / 51.1 / 8.3 | 34.2 1.8 / 24.0 / 8.3 |
| YOLO26n-depth | Depth | 640 | 124.4 1.9 / 115.1 / 7.4 | 23.0 1.8 / 13.5 / 7.7 |
| YOLO26n-cls | Classify | 224 | 4.4 0.4 / 4.0 / 0.0 | 3.1 0.8 / 2.1 / 0.2 |
| YOLO26n-pose | Pose | 640 | 57.4 1.8 / 53.8 / 1.8 | 16.6 2.7 / 10.1 / 3.9 |
| YOLO26n-obb | OBB | 640 | 50.3 1.8 / 47.2 / 1.4 | 11.7 1.8 / 7.8 / 2.0 |
- Các giá trị Speed là độ trễ cụm một ảnh — giá trị trung bình của 15 lần chạy sau 3 lần chạy làm ấm trên
bus.jpg, được đo bằng Ultralytics Flutter plugin0.6.10và các tài nguyên chuẩn hóav0.6.6. Thứ tự CPU/GPU được luân phiên giữa các tác vụ trong một đợt quét tuần tự. Nhật ký gốc xác nhận rằng mọi hàng CPU đều sử dụng LiteRT CPU/XNNPACK và mọi hàng GPU đều ủy quyền toàn bộ đồ thị cho LiteRT OpenCL (LITERT_CL). - Bản xuất LiteRT truy vết mô hình PyTorch trực tiếp, tạo ra một NCHW
.tflitevới đầu vào dạng số thực — bộ ủy quyền GPU biên dịch toàn bộ đồ thị (cả bảy tác vụ đều chạy trên GPU Adreno ở đây) vàw8a32không cần dữ liệu hiệu chuẩn. Người tiêu dùng nên đọc các hình dạng tensor và tên chữ ký thay vì giả định bố cục NHWC onnx2tf kế thừa hoặc tên đầu raIdentity; đóng gói dữ liệu RGB trực tiếp dưới dạng planar CHW hoặc chuyển vị nó trước khi suy luận. Các bản xuất ngữ nghĩa trả về logit NCHW và yêu cầu một lớp argmax ở phía máy chủ. Các tài nguyên Android chính thức được lưu trữ trên yolo-flutter-appv0.6.6release, với bản ghi benchmark chi tiết trong the Flutter performance doc. - Các con số về Snapdragon Hexagon NPU và LiteRT CPU/GPU tương ứng nằm trong mục Qualcomm QNN integration.
- So sánh các kết quả của CPU/bộ tăng tốc Apple trong phần CoreML integration.
Các đợt quét thiết bị sau đây sử dụng cùng các tài nguyên chuẩn hóa v0.6.6.
Google Pixel 10#
Hardware: Google Pixel 10 với bộ nhớ 12 GB và Android 16 / API 36. Google Tensor G5 3 nm của nó có CPU 8 nhân (1 nhân Prime lên đến 3,78 GHz, 5 nhân Performance lên đến 3,05 GHz và 2 nhân Efficiency lên đến 2,25 GHz), GPU PowerVR D-Series và Google TPU. Tốc độ xung nhịp lõi và tên trình điều khiển GPU được đọc từ thiết bị benchmark vì Google không công bố chúng trong các thông số kỹ thuật được liên kết.
| Mô hình | Tác vụ | kích thước (pixel) | CPU w8a32 LiteRT (ms) | GPU w8a32 LiteRT (ms) |
|---|---|---|---|---|
| YOLO26n | Detect | 640 | 53.3 1.5 / 50.2 / 1.6 | 45.5 3.8 / 37.7 / 4.0 |
| YOLO26n-seg | Segment | 640 | 87.7 1.8 / 78.5 / 7.5 | 50.9 3.0 / 36.9 / 10.9 |
| YOLO26n-sem | Ngữ nghĩa | 640 | 68.6 1.5 / 59.0 / 8.0 | 71.6 1.5 / 59.5 / 10.6 |
| YOLO26n-depth | Depth | 640 | 120.3 1.5 / 112.5 / 6.3 | 52.5 2.0 / 37.5 / 13.0 |
| YOLO26n-cls | Classify | 224 | 4.0 0.3 / 3.4 / 0.2 | 17.6 0.9 / 16.7 / 0.1 |
| YOLO26n-pose | Pose | 640 | 59.7 1.5 / 57.0 / 1.2 | 46.6 3.8 / 39.2 / 3.5 |
| YOLO26n-obb | OBB | 640 | 52.0 1.5 / 48.9 / 1.7 | 45.5 4.0 / 38.5 / 2.9 |
Benchmark: Giá trị trung bình của 15 lệnh gọi predict() sau 3 lần làm ấm trên bus.jpg, sử dụng ultralytics_yolo 0.6.10 và
các tài nguyên v0.6.6 chính thức. Thứ tự CPU/GPU luân phiên giữa các tác vụ trong một đợt quét tuần tự. Nhật ký gốc xác nhận rằng
mọi hàng CPU đều sử dụng LiteRT CPU/XNNPACK và mọi hàng GPU đều ủy quyền toàn bộ đồ thị cho LiteRT OpenCL (LITERT_CL).
Samsung Galaxy S26#
Hardware: Samsung Galaxy S26 (SM-S942B) với bộ nhớ 12 GB và Android 16 / API 36. Exynos 2600 2 nm của nó có CPU Armv9.3 10 nhân (1 nhân C1-Ultra lên đến 3.8 GHz, 3 nhân hiệu năng C1-Pro lên đến 3.26 GHz và 6 nhân hiệu suất C1-Pro lên đến 2.76 GHz), GPU Xclipse 960 và Samsung NPU.
| Mô hình | Tác vụ | kích thước (pixel) | CPU w8a32 LiteRT (ms) | GPU w8a32 LiteRT (ms) |
|---|---|---|---|---|
| YOLO26n | Detect | 640 | 36.7 1.3 / 33.8 / 1.7 | 16.4 1.4 / 12.3 / 2.6 |
| YOLO26n-seg | Segment | 640 | 54.6 1.2 / 48.0 / 5.3 | 32.8 1.3 / 24.5 / 7.0 |
| YOLO26n-sem | Ngữ nghĩa | 640 | 47.8 1.2 / 38.4 / 8.1 | 34.2 1.3 / 24.9 / 8.0 |
| YOLO26n-depth | Depth | 640 | 92.9 1.2 / 84.8 / 6.9 | 33.5 1.3 / 22.4 / 9.8 |
| YOLO26n-cls | Classify | 224 | 2.7 0.2 / 2.3 / 0.2 | 2.6 0.2 / 2.4 / 0.0 |
| YOLO26n-pose | Pose | 640 | 42.8 1.3 / 40.5 / 1.0 | 18.4 1.4 / 14.1 / 2.9 |
| YOLO26n-obb | OBB | 640 | 37.5 1.3 / 35.1 / 1.2 | 18.8 2.5 / 14.6 / 1.8 |
Benchmark: Giá trị trung bình của 15 lệnh gọi predict() sau 3 lần làm ấm trên bus.jpg, sử dụng ultralytics_yolo 0.6.10 và
các tài nguyên v0.6.6 chính thức. Thứ tự CPU/GPU luân phiên giữa các tác vụ trong một đợt quét tuần tự. Nhật ký gốc xác nhận rằng
mọi hàng CPU đều sử dụng LiteRT CPU/XNNPACK và mọi hàng GPU đều ủy quyền toàn bộ đồ thị cho LiteRT OpenCL (LITERT_CL).
Xiaomi 17T Pro#
Hardware: Xiaomi 17T Pro (2602EPTC0G) với bộ nhớ 12 GB LPDDR5X và Android 16 / API 36. MediaTek Dimensity 9500 (MT6993) 3 nm của nó có CPU Armv9.3 8 nhân (1 nhân C1-Ultra lên đến 4.21 GHz, 3 nhân C1-Premium lên đến 3.5 GHz và 4 nhân C1-Pro lên đến 2.7 GHz), GPU Mali-G1 Ultra MC12 và MediaTek NPU 990.
| Mô hình | Tác vụ | kích thước (pixel) | CPU w8a32 LiteRT (ms) | GPU w8a32 LiteRT (ms) |
|---|---|---|---|---|
| YOLO26n | Detect | 640 | 45.4 1.3 / 42.1 / 2.0 | 26.6 1.9 / 22.0 / 2.7 |
| YOLO26n-seg | Segment | 640 | 126.2 2.6 / 113.9 / 9.7 | 46.7 2.6 / 33.3 / 10.8 |
| YOLO26n-sem | Ngữ nghĩa | 640 | 117.9 2.6 / 98.8 / 16.5 | 74.3 2.6 / 54.7 / 17.0 |
| YOLO26n-depth | Depth | 640 | 182.4 2.5 / 167.6 / 12.3 | 47.8 2.5 / 32.3 / 12.9 |
| YOLO26n-cls | Classify | 224 | 6.2 0.4 / 5.3 / 0.4 | 7.4 0.4 / 6.9 / 0.1 |
| YOLO26n-pose | Pose | 640 | 97.6 2.5 / 93.3 / 1.8 | 28.6 2.5 / 23.3 / 2.8 |
| YOLO26n-obb | OBB | 640 | 91.5 2.6 / 85.8 / 3.2 | 27.5 2.7 / 21.8 / 2.9 |
Benchmark: Giá trị trung bình của 15 lệnh gọi predict() sau 3 lần làm ấm trên bus.jpg, sử dụng ultralytics_yolo 0.6.10 và
các tài nguyên v0.6.6 chính thức. Thứ tự CPU/GPU luân phiên giữa các tác vụ trong một đợt quét tuần tự. Nhật ký gốc xác nhận rằng
mọi hàng CPU đều sử dụng LiteRT CPU/XNNPACK và mọi hàng GPU đều ủy quyền toàn bộ đồ thị cho LiteRT OpenCL (LITERT_CL).
Các tác vụ được hỗ trợ#
LiteRT export hỗ trợ tất cả bảy tác vụ của Ultralytics. Phân đoạn ngữ nghĩa và ước tính chiều sâu chỉ có sẵn với YOLO26, dòng duy nhất trang bị các đầu ra đó.
Xuất sang LiteRT: Chuyển đổi model YOLO của bạn#
Bạn có thể cải thiện hiệu quả thực thi trên thiết bị và mở rộng các tùy chọn triển khai bằng cách chuyển đổi model của mình sang định dạng LiteRT.
Cài đặt#
Để cài đặt gói cần thiết, hãy chạy:
# Install the required package for YOLO
pip install ultralyticsĐể có hướng dẫn chi tiết và các phương pháp hay nhất, hãy xem Ultralytics Installation guide. Nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo Common Issues guide.
Tính năng export LiteRT hiện được hỗ trợ trên Linux x86_64 và macOS. Bản thân mô hình .tflite đã xuất chạy trên tất cả các nền tảng được LiteRT hỗ trợ (di động, thiết bị nhúng, biên và trình duyệt).
Cách sử dụng#
Tất cả các Ultralytics YOLO models đều hỗ trợ xuất ngay khi sử dụng. Định dạng LiteRT hỗ trợ các chế độ Export, Predict và Validate, cho phép bạn xuất mô hình, sau đó tải nó để chạy suy luận hoặc xác thực độ chính xác của nó tại máy cục bộ.
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to LiteRT format
model.export(format="litert", imgsz=640) # use imgsz=224 for classificationfrom ultralytics import YOLO
model = YOLO("yolo26n.pt")
# Dynamic INT8: int8 weights, FP32 activations - no calibration data needed
model.export(format="litert", quantize="w8a32", imgsz=640) # use imgsz=224 for classification
# Static INT8: int8 weights + int8 activations - needs calibration data
model.export(format="litert", quantize=8, data="coco8.yaml", imgsz=640) # use 224 for classification
# Static w8a16: int8 weights + int16 activations (higher accuracy) - needs calibration data
model.export(format="litert", quantize="w8a16", data="coco8.yaml", imgsz=640) # use 224 for classificationfrom ultralytics import YOLO
# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")
# Run inference
results = model("https://ultralytics.com/images/bus.jpg")from ultralytics import YOLO
# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")
# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")Đối số xuất#
| Đối số | Loại | Mặc định | Mô tả |
|---|---|---|---|
format | str | 'litert' | Định dạng đích cho model được xuất, xác định khả năng tương thích với các môi trường triển khai khác nhau. |
imgsz | int hoặc tuple | 640 | Kích thước ảnh mong muốn cho đầu vào của mô hình. Có thể là một số nguyên cho ảnh vuông hoặc một tuple (height, width) cho các kích thước cụ thể. |
quantize | int hoặc str | None | Độ chính xác lượng tử hóa: 8 (INT8 tĩnh, trọng số int8 + kích hoạt int8; cần hiệu chuẩn data/fraction), 'w8a16' (tĩnh, trọng số int8 + kích hoạt int16; cần hiệu chuẩn data/fraction), 'w8a32' (INT8 động, trọng số int8 + kích hoạt FP32; không cần hiệu chuẩn) hoặc 32/không đặt (FP32). FP16 không được xuất riêng biệt (xem ghi chú bên dưới). Thay thế các cờ half/int8 đã lỗi thời. |
batch | int | 1 | Chỉ định kích thước suy luận hàng loạt của mô hình xuất hoặc số lượng ảnh tối đa mà mô hình xuất sẽ xử lý đồng thời ở chế độ predict. |
data | str | None | Dataset YAML được sử dụng để hiệu chuẩn INT8; classification thay vào đó nhận một thư mục dataset hoặc tên dataset tích hợp sẵn. Nếu bỏ qua với quantize=8 hoặc 'w8a16', Ultralytics sẽ chọn dataset hiệu chuẩn mặc định cho tác vụ của mô hình. |
device | str | None | Chỉ định thiết bị dùng để xuất. Quá trình xuất LiteRT chạy trên CPU (device=cpu). |
Không giống như bản xuất tflite cũ, LiteRT không yêu cầu bản xuất FP16 riêng biệt. Mô hình FP32 .tflite chạy ở độ chính xác bán phần khi chạy khi sử dụng bộ ủy quyền GPU (WebGPU, OpenCL, Metal) — đây là cách tiếp cận chính thức của LiteRT đối với suy luận FP16.
Để biết thêm chi tiết về quá trình xuất, hãy truy cập trang tài liệu của Ultralytics về việc xuất model.
Triển khai các model YOLO LiteRT đã xuất#
Sau khi xuất mô hình Ultralytics YOLO của bạn sang LiteRT, bạn có thể triển khai nó trên các nền tảng. Cách nhanh nhất để xác minh nó cục bộ là phương pháp YOLO("yolo26n.tflite") được hiển thị ở trên. Để triển khai trong các môi trường khác, hãy xem các tài nguyên sau:
Di động & Nhúng#
- Android: Hướng dẫn bắt đầu nhanh để tích hợp LiteRT vào các ứng dụng Android.
- iOS: Hướng dẫn tích hợp và triển khai các mô hình LiteRT trong các ứng dụng iOS.
- Embedded Linux & Raspberry Pi: Chạy các mô hình LiteRT trên máy tính bo mạch đơn, có thể tăng tốc tùy chọn bằng Coral Edge TPU.
- Microcontrollers: Triển khai trên các MCU chỉ có bộ nhớ vài kilobyte — môi trường chạy cốt lõi vừa vặn trong khoảng 16 KB trên một Arm Cortex-M3.
Trình duyệt & Node.js (LiteRT.js)#
- LiteRT.js overview: Chạy trực tiếp cùng mô hình
.tflitetrong trình duyệt với tính năng tăng tốc WebGPU/WASM, loại bỏ việc tính toán phía máy chủ và giữ dữ liệu trên thiết bị của người dùng. - End-to-End Examples: Các ví dụ thực tế và hướng dẫn để triển khai LiteRT trên di động, biên và web.
Tóm tắt#
Trong hướng dẫn này, chúng tôi đã đề cập đến cách xuất các mô hình Ultralytics YOLO sang định dạng LiteRT. Bằng cách hợp nhất việc triển khai trên di động/biên (trước đây là TFLite) và trình duyệt (trước đây là TF.js) vào một mô hình .tflite duy nhất, LiteRT giúp các mô hình YOLO của bạn nhanh hơn, nhỏ hơn và có thể di động trên hầu như mọi mục tiêu trên thiết bị.
Để biết thêm chi tiết, hãy truy cập LiteRT official documentation.
Ngoài ra, nếu bạn tò mò về các tích hợp Ultralytics YOLO khác, hãy xem trang integration guide page của chúng tôi để có nhiều tài nguyên hữu ích.
Câu hỏi thường gặp#
Sử dụng thư viện Ultralytics để xuất mô hình YOLO sang LiteRT (
.tflite). Đầu tiên, hãy cài đặt gói:pip install ultralyticsSau đó xuất model của bạn:
from ultralytics import YOLO # Load a YOLO26 model model = YOLO("yolo26n.pt") # Export the model to LiteRT format model.export(format="litert", imgsz=640) # use imgsz=224 for classificationĐối với người dùng CLI:
yolo export model=yolo26n.pt format=litert imgsz=640 # use imgsz=224 for classificationĐể biết thêm chi tiết, hãy truy cập Ultralytics export guide.
LiteRT là tên mới của TensorFlow Lite — cùng định dạng mô hình
.tflite, cùng dòng thời gian chạy, được đổi thương hiệu bởi Google. Trong Ultralytics, định dạng xuấtlitertduy nhất hiện bao gồm cả hai trường hợp sử dụng trước đây yêu cầu hai định dạng riêng biệt:- Định dạng
tflitecũ → triển khai trên thiết bị di động, thiết bị nhúng và biên. - Định dạng
tfjscũ → triển khai trên trình duyệt và Node.js, giờ đây được xử lý bởi LiteRT.js chạy cùng tệp.tflite.
Nếu bạn có sẵn tệp
.tflite, bạn có thể tải nó trực tiếp bằngYOLO("model.tflite")và nó sẽ chạy qua backend LiteRT.- Định dạng
Có. Xuất mô hình của bạn sang định dạng LiteRT, sau đó chạy nó trên Raspberry Pi để cải thiện tốc độ suy luận. Để tối ưu hóa hơn nữa, hãy cân nhắc sử dụng Coral Edge TPU. Để có các bước chi tiết, hãy tham khảo Raspberry Pi deployment guide.
Có. LiteRT.js chạy trực tiếp mô hình
.tfliteđã xuất trong trình duyệt web hoặc ứng dụng Node.js, với tính năng tăng tốc WebGPU/WASM. Điều này thay thế quy trình TensorFlow.js trước đây — không cần bản xuất trình duyệt riêng biệt, chỉ cần triển khai mô hình LiteRT của bạn với môi trường chạy LiteRT.js.Có — khi chạy. Mô hình FP32 LiteRT tự động chạy ở định dạng FP16 khi thực thi trên bộ ủy quyền GPU (WebGPU, OpenCL hoặc Metal), đây là cách tiếp cận chính thức của LiteRT. Do đó, bạn không cần bản xuất FP16 chuyên dụng; để nén thêm, hãy sử dụng lượng tử hóa INT8 với
quantize=8.Nếu bạn gặp lỗi khi xuất các model YOLO sang LiteRT, các giải pháp phổ biến bao gồm:
- Kiểm tra nền tảng: Xuất LiteRT được hỗ trợ trên Linux x86_64 và macOS. Xác minh xem môi trường của bạn có khớp không.
- Check package compatibility: Đảm bảo bạn đang sử dụng phiên bản Ultralytics tương thích. Tham khảo installation guide của chúng tôi.
- Quantization issues: Khi sử dụng lượng tử hóa INT8, hãy đảm bảo đường dẫn dataset của bạn được chỉ định chính xác trong tham số
data.
Để biết thêm các mẹo khắc phục sự cố, hãy truy cập Common Issues guide của chúng tôi.