Link to this sectionTìm hiểu cách xuất sang định dạng TFLite Edge TPU từ mô hình YOLO26#

Việc triển khai các mô hình thị giác máy tính trên các thiết bị có công suất tính toán hạn chế, chẳng hạn như thiết bị di động hoặc hệ thống nhúng, có thể khá phức tạp. Sử dụng định dạng mô hình được tối ưu hóa để có hiệu suất nhanh hơn sẽ giúp đơn giản hóa quá trình này. Định dạng mô hình TensorFlow Lite Edge TPU hay TFLite Edge TPU được thiết kế để sử dụng năng lượng tối thiểu trong khi vẫn mang lại hiệu suất nhanh cho các mạng thần kinh.

Tính năng xuất sang định dạng TFLite Edge TPU cho phép bạn tối ưu hóa các mô hình Ultralytics YOLO26 của mình để suy luận tốc độ cao và tiêu thụ điện năng thấp. Trong hướng dẫn này, chúng tôi sẽ giới thiệu cách chuyển đổi mô hình của bạn sang định dạng TFLite Edge TPU, giúp các mô hình của bạn hoạt động hiệu quả hơn trên nhiều thiết bị di động và nhúng khác nhau.

Link to this sectionTại sao bạn nên xuất sang TFLite Edge TPU?#

Việc xuất mô hình sang TensorFlow Edge TPU giúp các tác vụ học máy trở nên nhanh chóng và hiệu quả. Công nghệ này phù hợp với các ứng dụng có giới hạn về năng lượng, tài nguyên tính toán và kết nối. Edge TPU là một bộ tăng tốc phần cứng của Google. Nó giúp tăng tốc các mô hình TensorFlow Lite trên các thiết bị biên. Hình ảnh dưới đây minh họa ví dụ về quy trình này.

Edge TPU hoạt động với các mô hình đã được định lượng. Định lượng giúp mô hình nhỏ hơn và nhanh hơn mà không làm giảm đáng kể độ chính xác. Nó là lựa chọn lý tưởng cho các nguồn tài nguyên hạn chế của điện toán biên, cho phép các ứng dụng phản hồi nhanh chóng bằng cách giảm độ trễ và cho phép xử lý dữ liệu nhanh chóng tại chỗ mà không cần phụ thuộc vào đám mây. Việc xử lý tại chỗ cũng giữ cho dữ liệu người dùng được riêng tư và an toàn vì nó không được gửi đến máy chủ từ xa.

Link to this sectionCác tính năng chính của TFLite Edge TPU#

Dưới đây là các tính năng chính khiến TFLite Edge TPU trở thành lựa chọn định dạng mô hình tuyệt vời cho các nhà phát triển:

• Hiệu suất được tối ưu hóa trên các thiết bị biên: TFLite Edge TPU đạt được hiệu suất mạng thần kinh tốc độ cao thông qua định lượng, tối ưu hóa mô hình, tăng tốc phần cứng và tối ưu hóa trình biên dịch. Kiến trúc tối giản của nó góp phần tạo nên kích thước nhỏ gọn và hiệu quả về chi phí.

• Thông lượng tính toán cao: TFLite Edge TPU kết hợp tăng tốc phần cứng chuyên dụng và thực thi runtime hiệu quả để đạt được thông lượng tính toán cao. Nó rất phù hợp để triển khai các mô hình học máy với các yêu cầu hiệu suất nghiêm ngặt trên các thiết bị biên.

• Tính toán ma trận hiệu quả: TensorFlow Edge TPU được tối ưu hóa cho các phép toán ma trận, vốn rất quan trọng cho các phép tính mạng thần kinh. Hiệu quả này là chìa khóa trong các mô hình học máy, đặc biệt là những mô hình yêu cầu vô số các phép nhân và biến đổi ma trận phức tạp.

Link to this sectionCác tùy chọn triển khai với TFLite Edge TPU#

Trước khi bắt đầu cách xuất mô hình YOLO26 sang định dạng TFLite Edge TPU, hãy tìm hiểu nơi các mô hình TFLite Edge TPU thường được sử dụng.

TFLite Edge TPU cung cấp nhiều tùy chọn triển khai cho các mô hình học máy, bao gồm:

• Triển khai trên thiết bị (On-Device): Các mô hình TensorFlow Edge TPU có thể được triển khai trực tiếp trên thiết bị di động và thiết bị nhúng. Việc triển khai trên thiết bị cho phép các mô hình thực thi trực tiếp trên phần cứng, loại bỏ nhu cầu kết nối đám mây, dù là bằng cách nhúng mô hình vào gói ứng dụng hoặc tải xuống theo yêu cầu.

• Điện toán biên với Cloud TensorFlow TPUs: Trong các tình huống mà thiết bị biên có khả năng xử lý hạn chế, TensorFlow Edge TPU có thể giảm tải các tác vụ suy luận cho các máy chủ đám mây được trang bị TPU.

• Triển khai lai (Hybrid): Cách tiếp cận lai kết hợp triển khai trên thiết bị và trên đám mây, mang lại giải pháp linh hoạt và có khả năng mở rộng để triển khai các mô hình học máy. Các ưu điểm bao gồm xử lý trên thiết bị để phản hồi nhanh và điện toán đám mây cho các tính toán phức tạp hơn.

Link to this sectionXuất mô hình YOLO26 sang TFLite Edge TPU#

Bạn có thể mở rộng khả năng tương thích của mô hình và tính linh hoạt khi triển khai bằng cách chuyển đổi các mô hình YOLO26 sang TensorFlow Edge TPU.

Link to this sectionCài đặt#

Để cài đặt gói cần thiết, hãy chạy lệnh sau:

# Install the required package for YOLO26
pip install ultralytics

Để có hướng dẫn chi tiết và các phương pháp tốt nhất liên quan đến quy trình cài đặt, hãy kiểm tra hướng dẫn cài đặt Ultralytics của chúng tôi. Trong quá trình cài đặt các gói cần thiết cho YOLO26, nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo hướng dẫn các vấn đề thường gặp để tìm giải pháp và mẹo xử lý.

Link to this sectionCách sử dụng#

Tất cả các model Ultralytics YOLO26 đều được thiết kế để hỗ trợ xuất dữ liệu ngay lập tức, giúp dễ dàng tích hợp chúng vào quy trình triển khai ưa thích của bạn. Bạn có thể xem danh sách đầy đủ các định dạng xuất và tùy chọn cấu hình được hỗ trợ để chọn thiết lập tốt nhất cho ứng dụng của mình.

Định dạng TFLite Edge TPU hỗ trợ các chế độ Export, Predict và Validate. Suy luận và xác thực chạy trên phần cứng Coral Edge TPU. Hãy xuất mô hình của bạn, sau đó tải mô hình đã xuất để chạy suy luận hoặc xác thực độ chính xác của nó.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionĐối số xuất#

Để biết thêm chi tiết về quy trình xuất, hãy truy cập trang tài liệu Ultralytics về xuất dữ liệu.

Link to this sectionTriển khai các mô hình YOLO26 TFLite Edge TPU đã xuất#

Sau khi xuất thành công các mô hình Ultralytics YOLO26 sang định dạng TFLite Edge TPU, giờ đây bạn có thể triển khai chúng. Bước đầu tiên quan trọng và được khuyến nghị để chạy mô hình TFLite Edge TPU là sử dụng phương thức YOLO("model_edgetpu.tflite"), như đã nêu trong đoạn mã sử dụng trước đó.

Tuy nhiên, để có hướng dẫn chuyên sâu về việc triển khai các mô hình TFLite Edge TPU của bạn, hãy xem qua các tài nguyên sau:

• Coral Edge TPU trên Raspberry Pi với Ultralytics YOLO26: Khám phá cách tích hợp Coral Edge TPU với Raspberry Pi để tăng cường khả năng học máy.

• Ví dụ về mã: Truy cập các ví dụ thực tế về triển khai TensorFlow Edge TPU để bắt đầu dự án của bạn.

• Chạy suy luận trên Edge TPU với Python: Khám phá cách sử dụng TensorFlow Lite Python API cho các ứng dụng Edge TPU, bao gồm các hướng dẫn thiết lập và sử dụng.

Link to this sectionTóm tắt#

Trong hướng dẫn này, chúng ta đã tìm hiểu cách xuất các mô hình Ultralytics YOLO26 sang định dạng TFLite Edge TPU. Bằng cách làm theo các bước nêu trên, bạn có thể tăng tốc độ và sức mạnh cho các ứng dụng thị giác máy tính của mình.

Để biết thêm chi tiết về cách sử dụng, hãy truy cập trang web chính thức của Edge TPU.

Ngoài ra, để biết thêm thông tin về các tích hợp khác của Ultralytics YOLO26, vui lòng truy cập trang hướng dẫn tích hợp của chúng tôi. Ở đó, bạn sẽ khám phá được những tài nguyên và thông tin chi tiết có giá trị.

Link to this sectionCâu hỏi thường gặp#

Link to this sectionLàm thế nào để tôi xuất mô hình YOLO26 sang định dạng TFLite Edge TPU?#

Để xuất mô hình YOLO26 sang định dạng TFLite Edge TPU, bạn có thể thực hiện các bước sau:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Để biết thông tin đầy đủ về việc xuất mô hình sang các định dạng khác, hãy tham khảo hướng dẫn xuất của chúng tôi.

Link to this sectionLợi ích của việc xuất mô hình YOLO26 sang TFLite Edge TPU là gì?#

Xuất mô hình YOLO26 sang TFLite Edge TPU mang lại một số lợi ích:

• Hiệu suất được tối ưu hóa: Đạt được hiệu suất mạng thần kinh tốc độ cao với mức tiêu thụ điện năng tối thiểu.
• Giảm độ trễ: Xử lý dữ liệu tại chỗ nhanh chóng mà không cần phụ thuộc vào đám mây.
• Bảo mật nâng cao: Xử lý tại chỗ giúp giữ cho dữ liệu người dùng được riêng tư và an toàn.

Điều này làm cho nó trở nên lý tưởng cho các ứng dụng trong điện toán biên, nơi các thiết bị có nguồn năng lượng và tài nguyên tính toán hạn chế. Tìm hiểu thêm về lý do tại sao bạn nên xuất.

Link to this sectionTôi có thể triển khai các mô hình TFLite Edge TPU trên thiết bị di động và thiết bị nhúng không?#

Có, các mô hình TensorFlow Lite Edge TPU có thể được triển khai trực tiếp trên thiết bị di động và thiết bị nhúng. Cách tiếp cận triển khai này cho phép các mô hình thực thi trực tiếp trên phần cứng, mang lại khả năng suy luận nhanh hơn và hiệu quả hơn. Để xem các ví dụ về tích hợp, hãy kiểm tra hướng dẫn về triển khai Coral Edge TPU trên Raspberry Pi của chúng tôi.

Link to this sectionCác trường hợp sử dụng phổ biến cho các mô hình TFLite Edge TPU là gì?#

Các trường hợp sử dụng phổ biến cho các mô hình TFLite Edge TPU bao gồm:

• Camera thông minh: Tăng cường phân tích hình ảnh và video thời gian thực.
• Thiết bị IoT: Kích hoạt tự động hóa công nghiệp và nhà thông minh.
• Chăm sóc sức khỏe: Tăng tốc chẩn đoán và hình ảnh y tế.
• Bán lẻ: Cải thiện quản lý hàng tồn kho và phân tích hành vi khách hàng.

Các ứng dụng này được hưởng lợi từ hiệu suất cao và mức tiêu thụ điện năng thấp của các mô hình TFLite Edge TPU. Khám phá thêm về các kịch bản sử dụng.

Link to this sectionLàm thế nào tôi có thể khắc phục sự cố khi xuất hoặc triển khai các mô hình TFLite Edge TPU?#

Nếu bạn gặp sự cố khi xuất hoặc triển khai các mô hình TFLite Edge TPU, hãy tham khảo hướng dẫn các sự cố thường gặp để biết các mẹo khắc phục. Hướng dẫn này bao gồm các vấn đề phổ biến và giải pháp để giúp bạn đảm bảo hoạt động trơn tru. Để được hỗ trợ thêm, hãy truy cập Trung tâm trợ giúp của chúng tôi.