Cách xuất sang TF GraphDef từ YOLO26 để triển khai
Khi bạn triển khai các mô hình thị giác máy tính tiên tiến, như YOLO26, trong các môi trường khác nhau, bạn có thể gặp phải các vấn đề tương thích. TensorFlow GraphDef của Google, hay TF GraphDef, cung cấp một giải pháp bằng cách cung cấp một biểu diễn tuần tự, độc lập với nền tảng của mô hình của bạn. Sử dụng định dạng mô hình TF GraphDef, bạn có thể triển khai mô hình YOLO26 của mình trong các môi trường mà hệ sinh thái TensorFlow đầy đủ có thể không có sẵn, chẳng hạn như thiết bị di động hoặc phần cứng chuyên dụng.
Trong hướng dẫn này, chúng tôi sẽ hướng dẫn bạn từng bước cách xuất các mô hình Ultralytics YOLO26 của bạn sang định dạng mô hình TF GraphDef. Bằng cách chuyển đổi mô hình của bạn, bạn có thể hợp lý hóa việc triển khai và sử dụng các khả năng thị giác máy tính của YOLO26 trong một phạm vi ứng dụng và nền tảng rộng hơn.
Tại sao bạn nên xuất sang TF GraphDef?
TF GraphDef là một thành phần mạnh mẽ của hệ sinh thái TensorFlow được phát triển bởi Google. Nó có thể được sử dụng để tối ưu hóa và triển khai các mô hình như YOLO26. Việc xuất sang TF GraphDef cho phép bạn chuyển các mô hình từ nghiên cứu sang các ứng dụng thực tế. Nó cho phép các mô hình chạy trong các môi trường không có đầy đủ framework TensorFlow.
Định dạng GraphDef biểu diễn mô hình dưới dạng một đồ thị tính toán được tuần tự hóa. Điều này cho phép các kỹ thuật tối ưu hóa khác nhau như gấp hằng số, lượng tử hóa và chuyển đổi đồ thị. Các tối ưu hóa này đảm bảo thực thi hiệu quả, giảm mức sử dụng bộ nhớ và tốc độ suy luận nhanh hơn.
Các mô hình GraphDef có thể sử dụng các bộ tăng tốc phần cứng như GPU, TPU và chip AI, mở khóa những cải thiện đáng kể về hiệu suất cho pipeline suy luận của YOLO26. Định dạng TF GraphDef tạo ra một gói độc lập chứa mô hình và các phần phụ thuộc của nó, đơn giản hóa việc triển khai và tích hợp vào các hệ thống đa dạng.
Các tính năng chính của mô hình TF GraphDef
TF GraphDef cung cấp các tính năng riêng biệt để đơn giản hóa việc triển khai mô hình và tối ưu hóa.
Đây là cái nhìn về các đặc điểm chính của nó:
Tuần tự hóa mô hình: TF GraphDef cung cấp một cách để tuần tự hóa và lưu trữ các mô hình TensorFlow ở định dạng độc lập với nền tảng. Biểu diễn tuần tự hóa này cho phép bạn tải và thực thi các mô hình của mình mà không cần codebase Python ban đầu, giúp việc triển khai dễ dàng hơn.
Tối ưu hóa đồ thị: TF GraphDef cho phép tối ưu hóa các đồ thị tính toán. Các tối ưu hóa này có thể tăng hiệu suất bằng cách sắp xếp hợp lý luồng thực thi, giảm thiểu các phần dư thừa và điều chỉnh các hoạt động cho phù hợp với phần cứng cụ thể.
Tính Linh Hoạt trong Triển Khai: Các mô hình được xuất sang định dạng GraphDef có thể được sử dụng trong nhiều môi trường khác nhau, bao gồm các thiết bị có tài nguyên hạn chế, trình duyệt web và các hệ thống có phần cứng chuyên dụng. Điều này mở ra khả năng triển khai rộng rãi hơn cho các mô hình TensorFlow của bạn.
Tập trung vào sản xuất: GraphDef được thiết kế để triển khai sản xuất. Nó hỗ trợ thực thi hiệu quả, các tính năng tuần tự hóa và tối ưu hóa phù hợp với các trường hợp sử dụng thực tế.
Các tùy chọn triển khai với TF GraphDef
Trước khi chúng ta đi sâu vào quy trình xuất các mô hình YOLO26 sang TF GraphDef, hãy cùng xem xét một số tình huống triển khai điển hình mà định dạng này được sử dụng.
Đây là cách bạn có thể triển khai với TF GraphDef hiệu quả trên nhiều nền tảng khác nhau.
TensorFlow Serving: Framework này được thiết kế để triển khai các mô hình TensorFlow trong môi trường sản xuất. TensorFlow Serving cung cấp khả năng quản lý mô hình, kiểm soát phiên bản và cơ sở hạ tầng để phục vụ mô hình hiệu quả ở quy mô lớn. Đây là một cách liền mạch để tích hợp các mô hình dựa trên GraphDef của bạn vào các dịch vụ web hoặc API sản xuất.
Thiết bị di động và nhúng: Với các công cụ như TensorFlow Lite, bạn có thể chuyển đổi các mô hình TF GraphDef thành các định dạng được tối ưu hóa cho điện thoại thông minh, máy tính bảng và các thiết bị nhúng khác nhau. Sau đó, các mô hình của bạn có thể được sử dụng để suy luận trên thiết bị, nơi quá trình thực thi được thực hiện cục bộ, thường mang lại hiệu suất cao hơn và khả năng ngoại tuyến.
Trình duyệt web:TensorFlow.js cho phép triển khai các mô hình TF GraphDef trực tiếp trong trình duyệt web. Điều này mở đường cho các ứng dụng detect đối tượng thời gian thực chạy phía client, sử dụng các khả năng của YOLO26 thông qua JavaScript.
Phần cứng chuyên dụng: Bản chất không phụ thuộc vào nền tảng của TF GraphDef cho phép nó nhắm mục tiêu đến phần cứng tùy chỉnh, chẳng hạn như bộ tăng tốc và TPU (Bộ xử lý Tensor). Các thiết bị này có thể mang lại lợi thế về hiệu suất cho các mô hình đòi hỏi tính toán chuyên sâu.
Xuất mô hình YOLO26 sang TF GraphDef
Bạn có thể chuyển đổi mô hình detect đối tượng YOLO26 của mình sang định dạng TF GraphDef, tương thích với nhiều hệ thống khác nhau, nhằm cải thiện hiệu suất trên các nền tảng.
Cài đặt
Để cài đặt gói cần thiết, hãy chạy:
Cài đặt
# Install the required package for YOLO26
pip install ultralytics
Để biết hướng dẫn chi tiết và các phương pháp hay nhất liên quan đến quá trình cài đặt, hãy kiểm tra hướng dẫn cài đặt Ultralytics của chúng tôi. Trong quá trình cài đặt các gói cần thiết cho YOLO26, nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo hướng dẫn Các Vấn đề Thường Gặp của chúng tôi để tìm giải pháp và mẹo.
Cách sử dụng
Tất cả các mô hình Ultralytics YOLO26 đều được thiết kế để hỗ trợ xuất ngay lập tức, giúp dễ dàng tích hợp chúng vào quy trình triển khai ưa thích của bạn. Bạn có thể xem danh sách đầy đủ các định dạng xuất được hỗ trợ và các tùy chọn cấu hình để chọn thiết lập tốt nhất cho ứng dụng của mình.
Cách sử dụng
from ultralytics import YOLO
# Load the YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TF GraphDef format
model.export(format="pb") # creates 'yolo26n.pb'
# Load the exported TF GraphDef model
tf_graphdef_model = YOLO("yolo26n.pb")
# Run inference
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO26n PyTorch model to TF GraphDef format
yolo export model=yolo26n.pt format=pb # creates 'yolo26n.pb'
# Run inference with the exported model
yolo predict model='yolo26n.pb' source='https://ultralytics.com/images/bus.jpg'
Các đối số xuất
| Đối số | Loại | Mặc định | Mô tả |
|---|---|---|---|
format | str | 'pb' | Dạng mục tiêu cho mô hình được xuất, xác định khả năng tương thích với các môi trường triển khai khác nhau. |
imgsz | int hoặc tuple | 640 | Kích thước hình ảnh mong muốn cho đầu vào của mô hình. Có thể là một số nguyên cho hình ảnh vuông hoặc một bộ giá trị (height, width) cho các kích thước cụ thể. |
batch | int | 1 | Chỉ định kích thước suy luận theo lô của mô hình xuất hoặc số lượng hình ảnh tối đa mà mô hình đã xuất sẽ xử lý đồng thời ở chế độ predict chế độ. |
device | str | None | Chỉ định thiết bị để xuất: CPU (device=cpu), MPS cho Apple silicon (device=mps). |
Để biết thêm chi tiết về quy trình xuất, hãy truy cập trang tài liệu Ultralytics về xuất.
Triển khai các mô hình YOLO26 TF GraphDef đã xuất
Sau khi bạn đã xuất mô hình YOLO26 của mình sang định dạng TF GraphDef, bước tiếp theo là triển khai. Bước đầu tiên chính và được khuyến nghị để chạy một mô hình TF GraphDef là sử dụng phương thức YOLO("model.pb"), như đã được hiển thị trước đó trong đoạn mã sử dụng.
Tuy nhiên, để biết thêm thông tin về cách triển khai các mô hình TF GraphDef của bạn, hãy xem các tài nguyên sau:
TensorFlow Serving: Hướng dẫn về TensorFlow Serving, trình bày cách triển khai và cung cấp các mô hình machine learning một cách hiệu quả trong môi trường production.
TensorFlow Lite: Trang này mô tả cách chuyển đổi các mô hình machine learning sang định dạng được tối ưu hóa để suy luận trên thiết bị bằng TensorFlow Lite.
TensorFlow.js: Hướng dẫn về chuyển đổi mô hình, trình bày cách chuyển đổi các mô hình TensorFlow hoặc Keras sang định dạng TensorFlow.js để sử dụng trong các ứng dụng web.
Tóm tắt
Trong hướng dẫn này, chúng tôi đã tìm hiểu cách xuất các mô hình Ultralytics YOLO26 sang định dạng TF GraphDef. Bằng cách này, bạn có thể linh hoạt triển khai các mô hình YOLO26 đã được tối ưu hóa của mình trong các môi trường khác nhau.
Để biết thêm chi tiết về cách sử dụng, hãy truy cập tài liệu chính thức của TF GraphDef.
Để biết thêm thông tin về việc tích hợp Ultralytics YOLO26 với các nền tảng và framework khác, hãy xem trang hướng dẫn tích hợp của chúng tôi.
Câu hỏi thường gặp
Làm cách nào để xuất một mô hình YOLO26 sang định dạng TF GraphDef?
Các mô hình Ultralytics YOLO26 có thể được xuất sang định dạng TensorFlow GraphDef (TF GraphDef) một cách liền mạch. Định dạng này cung cấp một biểu diễn tuần tự, độc lập với nền tảng của mô hình, lý tưởng để triển khai trong các môi trường đa dạng như di động và web. Để xuất một mô hình YOLO26 sang TF GraphDef, hãy làm theo các bước sau:
Cách sử dụng
from ultralytics import YOLO
# Load the YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TF GraphDef format
model.export(format="pb") # creates 'yolo26n.pb'
# Load the exported TF GraphDef model
tf_graphdef_model = YOLO("yolo26n.pb")
# Run inference
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO26n PyTorch model to TF GraphDef format
yolo export model="yolo26n.pt" format="pb" # creates 'yolo26n.pb'
# Run inference with the exported model
yolo predict model="yolo26n.pb" source="https://ultralytics.com/images/bus.jpg"
Để biết thêm thông tin về các tùy chọn xuất khác nhau, hãy truy cập tài liệu Ultralytics về xuất mô hình.
Những lợi ích của việc sử dụng TF GraphDef để triển khai mô hình YOLO26 là gì?
Việc xuất các mô hình YOLO26 sang định dạng TF GraphDef mang lại nhiều lợi ích, bao gồm:
- Tính độc lập của nền tảng: TF GraphDef cung cấp một định dạng độc lập với nền tảng, cho phép triển khai các mô hình trên nhiều môi trường khác nhau, bao gồm cả thiết bị di động và trình duyệt web.
- Tối ưu hóa: Định dạng này cho phép một số tối ưu hóa, chẳng hạn như gấp hằng số, lượng tử hóa và chuyển đổi đồ thị, giúp tăng cường hiệu quả thực thi và giảm mức sử dụng bộ nhớ.
- Tăng tốc phần cứng: Các mô hình ở định dạng TF GraphDef có thể tận dụng các bộ tăng tốc phần cứng như GPU, TPU và chip AI để tăng hiệu suất.
Đọc thêm về những lợi ích trong phần TF GraphDef của tài liệu chúng tôi.
Tại sao tôi nên sử dụng Ultralytics YOLO26 thay vì các mô hình detect đối tượng khác?
Ultralytics YOLO26 mang lại nhiều lợi thế so với các mô hình khác như YOLOv5 và YOLOv7. Một số lợi ích chính bao gồm:
- Hiệu suất hàng đầu: YOLO26 cung cấp tốc độ và độ chính xác vượt trội cho việc detect đối tượng, segment và phân loại theo thời gian thực.
- Dễ sử dụng: Có API thân thiện với người dùng để huấn luyện, xác thực, dự đoán và xuất mô hình, giúp cả người mới bắt đầu và chuyên gia đều có thể tiếp cận được.
- Khả năng tương thích rộng: Hỗ trợ nhiều định dạng xuất, bao gồm ONNX, TensorRT, CoreML và TensorFlow, cho các tùy chọn triển khai linh hoạt.
Khám phá thêm chi tiết trong giới thiệu về YOLO26 của chúng tôi.
Làm cách nào để triển khai một mô hình YOLO26 trên phần cứng chuyên dụng sử dụng TF GraphDef?
Khi một mô hình YOLO26 được xuất sang định dạng TF GraphDef, bạn có thể triển khai nó trên nhiều nền tảng phần cứng chuyên dụng khác nhau. Các kịch bản triển khai điển hình bao gồm:
- TensorFlow Serving: Sử dụng TensorFlow Serving để triển khai mô hình có khả năng mở rộng trong môi trường sản xuất. Nó hỗ trợ quản lý mô hình và phục vụ hiệu quả.
- Thiết bị di động: Chuyển đổi các mô hình TF GraphDef sang TensorFlow Lite, được tối ưu hóa cho các thiết bị di động và nhúng, cho phép suy luận trên thiết bị.
- Trình Duyệt Web: Triển khai các mô hình bằng TensorFlow.js để suy luận phía máy khách trong các ứng dụng web.
- Bộ tăng tốc AI: Tận dụng các TPU và chip AI tùy chỉnh để tăng tốc suy luận.
Xem phần tùy chọn triển khai để biết thông tin chi tiết.
Tôi có thể tìm giải pháp ở đâu cho các vấn đề thường gặp khi xuất mô hình YOLO26?
Để khắc phục các sự cố thường gặp khi xuất mô hình YOLO26, Ultralytics cung cấp các hướng dẫn và tài nguyên toàn diện. Nếu bạn gặp sự cố trong quá trình cài đặt hoặc xuất mô hình, hãy tham khảo:
- Hướng dẫn các vấn đề thường gặp: Đưa ra các giải pháp cho các vấn đề thường gặp.
- Hướng dẫn cài đặt: Hướng dẫn từng bước để thiết lập các gói (package) cần thiết.
Các tài nguyên này sẽ giúp bạn giải quyết hầu hết các vấn đề liên quan đến việc xuất và triển khai mô hình YOLO26.
