Tìm hiểu cách Xuất sang Định dạng TFLite Edge TPU từ Mô hình YOLO11

Việc triển khai các mô hình thị giác máy tính trên các thiết bị có giới hạn về sức mạnh tính toán, chẳng hạn như hệ thống di động hoặc nhúng, có thể khá phức tạp. Sử dụng định dạng mô hình được tối ưu hóa để có hiệu suất nhanh hơn sẽ đơn giản hóa quy trình. Định dạng mô hình TensorFlow Lite Edge TPU hay TFLite Edge TPU được thiết kế để sử dụng năng lượng tối thiểu đồng thời mang lại hiệu suất nhanh chóng cho mạng nơ-ron.

Tính năng xuất sang định dạng TFLite Edge TPU cho phép bạn tối ưu hóa các mô hình Ultralytics YOLO11 của mình để suy luận tốc độ cao và công suất thấp. Trong hướng dẫn này, chúng tôi sẽ hướng dẫn bạn cách chuyển đổi mô hình của bạn sang định dạng TFLite Edge TPU, giúp mô hình của bạn hoạt động tốt hơn trên các thiết bị di động và nhúng khác nhau.

Tại sao bạn nên xuất sang TFLite Edge TPU?

Xuất mô hình sang TensorFlow Edge TPU giúp các tác vụ máy học trở nên nhanh chóng và hiệu quả. Công nghệ này phù hợp với các ứng dụng có nguồn điện, tài nguyên điện toán và kết nối hạn chế. Edge TPU là một bộ tăng tốc phần cứng của Google. Nó tăng tốc các mô hình TensorFlow Lite trên các thiết bị biên. Hình ảnh bên dưới cho thấy một ví dụ về quy trình liên quan.

Edge TPU hoạt động với các mô hình lượng tử hóa. Lượng tử hóa làm cho các mô hình nhỏ hơn và nhanh hơn mà không làm mất nhiều độ chính xác. Nó lý tưởng cho các tài nguyên hạn chế của điện toán biên, cho phép các ứng dụng phản hồi nhanh chóng bằng cách giảm độ trễ và cho phép xử lý dữ liệu nhanh chóng tại chỗ, không phụ thuộc vào đám mây. Xử lý cục bộ cũng giữ cho dữ liệu người dùng ở chế độ riêng tư và an toàn vì nó không được gửi đến máy chủ từ xa.

Các tính năng chính của TFLite Edge TPU

Dưới đây là những tính năng chính giúp TFLite Edge TPU trở thành lựa chọn định dạng mô hình tuyệt vời cho các nhà phát triển:

• Hiệu suất được Tối ưu hóa trên Thiết bị Biên: TFLite Edge TPU đạt được hiệu suất mạng nơ-ron tốc độ cao thông qua lượng tử hóa, tối ưu hóa mô hình, tăng tốc phần cứng và tối ưu hóa trình biên dịch. Kiến trúc tối giản của nó góp phần làm cho nó có kích thước nhỏ hơn và hiệu quả về chi phí.

• Thông lượng Tính toán Cao: TFLite Edge TPU kết hợp khả năng tăng tốc phần cứng chuyên dụng và thực thi thời gian chạy hiệu quả để đạt được thông lượng tính toán cao. Nó rất phù hợp để triển khai các mô hình máy học với các yêu cầu hiệu suất nghiêm ngặt trên các thiết bị biên.

• Tính toán Ma trận Hiệu quả: TensorFlow Edge TPU được tối ưu hóa cho các hoạt động ma trận, rất quan trọng đối với tính toán mạng nơ-ron. Hiệu quả này là chìa khóa trong các mô hình máy học, đặc biệt là những mô hình yêu cầu nhiều phép nhân và biến đổi ma trận phức tạp.

Các tùy chọn triển khai với TFLite Edge TPU

Trước khi đi sâu vào cách xuất các mô hình YOLO11 sang định dạng TFLite Edge TPU, hãy cùng tìm hiểu xem các mô hình TFLite Edge TPU thường được sử dụng ở đâu.

TFLite Edge TPU cung cấp các tùy chọn triển khai khác nhau cho các mô hình máy học, bao gồm:

• Triển khai trên Thiết bị: Các mô hình TensorFlow Edge TPU có thể được triển khai trực tiếp trên các thiết bị di động và nhúng. Triển khai trên thiết bị cho phép các mô hình thực thi trực tiếp trên phần cứng, loại bỏ nhu cầu kết nối đám mây.

• Điện toán Biên với TensorFlow TPU Đám mây: Trong các trường hợp thiết bị biên có khả năng xử lý hạn chế, TensorFlow Edge TPU có thể chuyển các tác vụ suy luận sang các máy chủ đám mây được trang bị TPU.

• Triển khai Kết hợp: Cách tiếp cận kết hợp kết hợp triển khai trên thiết bị và đám mây, đồng thời cung cấp một giải pháp linh hoạt và có khả năng mở rộng để triển khai các mô hình máy học. Ưu điểm bao gồm xử lý trên thiết bị để có phản hồi nhanh và điện toán đám mây cho các tính toán phức tạp hơn.

Xuất mô hình YOLO11 sang TFLite Edge TPU

Bạn có thể mở rộng khả năng tương thích của mô hình và tính linh hoạt trong triển khai bằng cách chuyển đổi các mô hình YOLO11 sang TensorFlow Edge TPU.

Cài đặt

Để cài đặt gói cần thiết, hãy chạy:

# Install the required package for YOLO11
pip install ultralytics

Để biết hướng dẫn chi tiết và các phương pháp hay nhất liên quan đến quy trình cài đặt, hãy xem hướng dẫn Cài đặt Ultralytics của chúng tôi. Trong khi cài đặt các gói cần thiết cho YOLO11, nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo hướng dẫn Các Vấn đề Thường gặp của chúng tôi để biết các giải pháp và mẹo.

Cách sử dụng

Tất cả các mô hình Ultralytics YOLO11 đều được thiết kế để hỗ trợ xuất ngay lập tức, giúp bạn dễ dàng tích hợp chúng vào quy trình triển khai ưa thích của mình. Bạn có thể xem danh sách đầy đủ các định dạng xuất và tùy chọn cấu hình được hỗ trợ để chọn thiết lập tốt nhất cho ứng dụng của mình.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Các đối số xuất

Để biết thêm chi tiết về quy trình xuất, hãy truy cập trang tài liệu Ultralytics về xuất.

Triển khai các mô hình YOLO11 TFLite Edge TPU đã xuất

Sau khi xuất thành công các mô hình Ultralytics YOLO11 của bạn sang định dạng TFLite Edge TPU, giờ đây bạn có thể triển khai chúng. Bước đầu tiên chính và được khuyến nghị để chạy mô hình TFLite Edge TPU là sử dụng phương pháp YOLO("model_edgetpu.tflite"), như được nêu trong đoạn mã sử dụng trước đó.

Tuy nhiên, để biết hướng dẫn chuyên sâu về cách triển khai các mô hình TFLite Edge TPU của bạn, hãy xem các tài nguyên sau:

• Coral Edge TPU trên Raspberry Pi với Ultralytics YOLO11: Khám phá cách tích hợp Coral Edge TPU với Raspberry Pi để có khả năng máy học nâng cao.

• Ví dụ về Mã: Truy cập các ví dụ triển khai TensorFlow Edge TPU thực tế để khởi động các dự án của bạn.

• Chạy suy luận trên Edge TPU bằng Python: Tìm hiểu cách sử dụng TensorFlow Lite Python API cho các ứng dụng Edge TPU, bao gồm hướng dẫn thiết lập và sử dụng.

Tóm tắt

Trong hướng dẫn này, chúng ta đã tìm hiểu cách xuất các mô hình Ultralytics YOLO11 sang định dạng TFLite Edge TPU. Bằng cách làm theo các bước được đề cập ở trên, bạn có thể tăng tốc độ và sức mạnh cho các ứng dụng thị giác máy tính của mình.

Để biết thêm chi tiết về cách sử dụng, hãy truy cập trang web chính thức của Edge TPU.

Ngoài ra, để biết thêm thông tin về các tích hợp Ultralytics YOLO11 khác, vui lòng truy cập trang hướng dẫn tích hợp của chúng tôi. Tại đó, bạn sẽ khám phá các tài nguyên và thông tin chi tiết có giá trị.

Câu hỏi thường gặp

Làm cách nào để xuất mô hình YOLO11 sang định dạng TFLite Edge TPU?

Để xuất mô hình YOLO11 sang định dạng TFLite Edge TPU, bạn có thể làm theo các bước sau:

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Để biết đầy đủ chi tiết về cách xuất mô hình sang các định dạng khác, hãy tham khảo hướng dẫn xuất của chúng tôi.

Những lợi ích của việc xuất mô hình YOLO11 sang TFLite Edge TPU là gì?

Xuất mô hình YOLO11 sang TFLite Edge TPU mang lại một số lợi ích:

• Hiệu suất được tối ưu hóa: Đạt được hiệu suất mạng nơ-ron tốc độ cao với mức tiêu thụ điện năng tối thiểu.
• Độ trễ giảm: Xử lý dữ liệu cục bộ nhanh chóng mà không cần phụ thuộc vào đám mây.
• Quyền riêng tư được tăng cường: Xử lý cục bộ giúp bảo vệ dữ liệu người dùng một cách riêng tư và an toàn.

Điều này làm cho nó trở nên lý tưởng cho các ứng dụng trong điện toán biên, nơi các thiết bị có nguồn điện và tài nguyên tính toán hạn chế. Tìm hiểu thêm về lý do bạn nên xuất.

Tôi có thể triển khai các mô hình TFLite Edge TPU trên các thiết bị di động và nhúng không?

Có, các mô hình TensorFlow Lite Edge TPU có thể được triển khai trực tiếp trên các thiết bị di động và nhúng. Phương pháp triển khai này cho phép các mô hình thực thi trực tiếp trên phần cứng, mang lại khả năng suy luận nhanh hơn và hiệu quả hơn. Để biết các ví dụ tích hợp, hãy xem hướng dẫn của chúng tôi về triển khai Coral Edge TPU trên Raspberry Pi.

Một số trường hợp sử dụng phổ biến cho các mô hình TFLite Edge TPU là gì?

Các trường hợp sử dụng phổ biến cho các mô hình TFLite Edge TPU bao gồm:

• Camera thông minh: Nâng cao khả năng phân tích hình ảnh và video theo thời gian thực.
• Thiết bị IoT: Cho phép tự động hóa nhà thông minh và công nghiệp.
• Chăm sóc sức khỏe: Đẩy nhanh quá trình chẩn đoán và chụp ảnh y tế.
• Bán lẻ: Cải thiện quản lý hàng tồn kho và phân tích hành vi khách hàng.

Các ứng dụng này được hưởng lợi từ hiệu suất cao và mức tiêu thụ điện năng thấp của các mô hình TFLite Edge TPU. Khám phá thêm về các tình huống sử dụng.

Làm cách nào để khắc phục sự cố trong khi xuất hoặc triển khai các mô hình TFLite Edge TPU?

Nếu bạn gặp sự cố khi xuất hoặc triển khai các mô hình TFLite Edge TPU, hãy tham khảo hướng dẫn Các sự cố thường gặp của chúng tôi để biết các mẹo khắc phục sự cố. Hướng dẫn này bao gồm các sự cố và giải pháp thường gặp để giúp bạn đảm bảo hoạt động trơn tru. Để được hỗ trợ thêm, hãy truy cập Trung tâm trợ giúp của chúng tôi.

📅 Đã tạo 1 năm trước ✏️ Cập nhật 4 tháng trước

Bình luận