Learn to Export to TFLite Edge TPU Format From YOLO11 Model
Triển khai các mô hình thị giác máy tính trên các thiết bị có sức mạnh tính toán hạn chế, chẳng hạn như hệ thống di động hoặc nhúng, có thể khó khăn. Sử dụng định dạng mô hình được tối ưu hóa để có hiệu suất nhanh hơn sẽ đơn giản hóa quy trình. Các TensorFlow Lite Cạnh TPU hoặc TFLite Edge TPU Định dạng mô hình được thiết kế để sử dụng năng lượng tối thiểu trong khi mang lại hiệu suất nhanh cho các mạng thần kinh.
The export to TFLite Edge TPU format feature allows you to optimize your Ultralytics YOLO11 models for high-speed and low-power inferencing. In this guide, we'll walk you through converting your models to the TFLite Edge TPU format, making it easier for your models to perform well on various mobile and embedded devices.
Tại sao bạn nên xuất sang TFLite Edge TPU?
Exporting models to TensorFlow Edge TPU makes machine learning tasks fast and efficient. This technology suits applications with limited power, computing resources, and connectivity. The Edge TPU is a hardware accelerator by Google. It speeds up TensorFlow Lite models on edge devices. The image below shows an example of the process involved.
The Edge TPU works with quantized models. Quantization makes models smaller and faster without losing much accuracy. It is ideal for the limited resources of edge computing, allowing applications to respond quickly by reducing latency and allowing for quick data processing locally, without cloud dependency. Local processing also keeps user data private and secure since it's not sent to a remote server.
Các tính năng chính của TFLite Edge TPU
Dưới đây là các tính năng chính tạo nên TFLite Edge TPU Một lựa chọn định dạng mô hình tuyệt vời cho các nhà phát triển:
Hiệu suất được tối ưu hóa trên các thiết bị biên: TFLite Edge TPU Đạt được hiệu suất mạng nơ-ron tốc độ cao thông qua lượng tử hóa, tối ưu hóa mô hình, tăng tốc phần cứng và tối ưu hóa trình biên dịch. Kiến trúc tối giản của nó góp phần vào kích thước nhỏ hơn và hiệu quả chi phí.
Thông lượng tính toán cao: TFLite Edge TPU Kết hợp tăng tốc phần cứng chuyên dụng và thực thi thời gian chạy hiệu quả để đạt được thông lượng tính toán cao. Nó rất phù hợp để triển khai các mô hình học máy với các yêu cầu hiệu suất nghiêm ngặt trên các thiết bị biên.
Efficient Matrix Computations: The TensorFlow Edge TPU is optimized for matrix operations, which are crucial for neural network computations. This efficiency is key in machine learning models, particularly those requiring numerous and complex matrix multiplications and transformations.
Tùy chọn triển khai với TFLite Edge TPU
Before we jump into how to export YOLO11 models to the TFLite Edge TPU format, let's understand where TFLite Edge TPU models are usually used.
TFLite cạnh TPU Cung cấp các tùy chọn triển khai khác nhau cho các mô hình học máy, bao gồm:
Triển khai trên thiết bị: TensorFlow Cạnh TPU Các mô hình có thể được triển khai trực tiếp trên các thiết bị di động và nhúng. Triển khai trên thiết bị cho phép các mô hình thực thi trực tiếp trên phần cứng, loại bỏ nhu cầu kết nối đám mây.
Điện toán biên với đám mây TensorFlow TPU: Trong các tình huống mà các thiết bị biên có khả năng xử lý hạn chế, TensorFlow TPU biên có thể giảm tải các tác vụ suy luận cho các máy chủ đám mây được trang bị TPU.
Hybrid Deployment: A hybrid approach combines on-device and cloud deployment and offers a versatile and scalable solution for deploying machine learning models. Advantages include on-device processing for quick responses and cloud computing for more complex computations.
Exporting YOLO11 Models to TFLite Edge TPU
You can expand model compatibility and deployment flexibility by converting YOLO11 models to TensorFlow Edge TPU.
Cài đặt
Để cài đặt gói yêu cầu, hãy chạy:
For detailed instructions and best practices related to the installation process, check our Ultralytics Installation guide. While installing the required packages for YOLO11, if you encounter any difficulties, consult our Common Issues guide for solutions and tips.
Sử dụng
Before diving into the usage instructions, it's important to note that while all Ultralytics YOLO11 models are available for exporting, you can ensure that the model you select supports export functionality here.
Sử dụng
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Để biết thêm chi tiết về các tùy chọn xuất được hỗ trợ, hãy truy cập Ultralytics trang tài liệu về các tùy chọn triển khai.
Deploying Exported YOLO11 TFLite Edge TPU Models
After successfully exporting your Ultralytics YOLO11 models to TFLite Edge TPU format, you can now deploy them. The primary and recommended first step for running a TFLite Edge TPU model is to use the YOLO("model_edgetpu.tflite") method, as outlined in the previous usage code snippet.
Tuy nhiên, để được hướng dẫn chuyên sâu về cách triển khai TFLite Edge của bạn TPU Mô hình, hãy xem các tài nguyên sau:
Coral Edge TPU on a Raspberry Pi with Ultralytics YOLO11: Discover how to integrate Coral Edge TPUs with Raspberry Pi for enhanced machine learning capabilities.
Ví dụ về mã: Truy cập thực tế TensorFlow Cạnh TPU Ví dụ triển khai để khởi động dự án của bạn.
Chạy suy luận trên biên TPU với Python: Khám phá cách sử dụng TensorFlow Lite Python API cho Edge TPU các ứng dụng, bao gồm hướng dẫn thiết lập và sử dụng.
Tóm tắt
In this guide, we've learned how to export Ultralytics YOLO11 models to TFLite Edge TPU format. By following the steps mentioned above, you can increase the speed and power of your computer vision applications.
Để biết thêm chi tiết về cách sử dụng, hãy truy cập Cạnh TPU Trang web chính thức.
Also, for more information on other Ultralytics YOLO11 integrations, please visit our integration guide page. There, you'll discover valuable resources and insights.
FAQ
How do I export a YOLO11 model to TFLite Edge TPU format?
To export a YOLO11 model to TFLite Edge TPU format, you can follow these steps:
Sử dụng
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Để biết chi tiết đầy đủ về cách xuất mô hình sang các định dạng khác, hãy tham khảo hướng dẫn xuất của chúng tôi.
What are the benefits of exporting YOLO11 models to TFLite Edge TPU?
Exporting YOLO11 models to TFLite Edge TPU offers several benefits:
- Hiệu suất tối ưu: Đạt được hiệu suất mạng thần kinh tốc độ cao với mức tiêu thụ điện năng tối thiểu.
- Giảm độ trễ: Xử lý dữ liệu cục bộ nhanh chóng mà không cần phụ thuộc vào đám mây.
- Quyền riêng tư nâng cao: Xử lý cục bộ giữ cho dữ liệu người dùng riêng tư và an toàn.
This makes it ideal for applications in edge computing, where devices have limited power and computational resources. Learn more about why you should export.
Tôi có thể triển khai TFLite Edge không TPU Mô hình trên thiết bị di động và thiết bị nhúng?
Có TensorFlow Cạnh Lite TPU Các mô hình có thể được triển khai trực tiếp trên các thiết bị di động và nhúng. Cách tiếp cận triển khai này cho phép các mô hình thực thi trực tiếp trên phần cứng, cung cấp suy luận nhanh hơn và hiệu quả hơn. Để biết các ví dụ về tích hợp, hãy kiểm tra hướng dẫn triển khai Coral Edge TPU trên Raspberry Pi.
Một số trường hợp sử dụng phổ biến cho TFLite Edge là gì TPU Mô hình?
Các trường hợp sử dụng phổ biến cho TFLite Edge TPU Các mô hình bao gồm:
- Camera thông minh: Tăng cường phân tích hình ảnh và video theo thời gian thực.
- Thiết bị IoT: Cho phép tự động hóa nhà thông minh và công nghiệp.
- Chăm sóc sức khỏe: Tăng tốc chẩn đoán và chẩn đoán hình ảnh y tế.
- Bán lẻ: Cải thiện quản lý hàng tồn kho và phân tích hành vi khách hàng.
Các ứng dụng này được hưởng lợi từ hiệu suất cao và mức tiêu thụ điện năng thấp của TFLite Edge TPU Mô hình. Khám phá thêm về các tình huống sử dụng.
Làm cách nào để khắc phục sự cố khi xuất hoặc triển khai TFLite Edge TPU Mô hình?
Nếu bạn gặp sự cố khi xuất hoặc triển khai TFLite Edge TPU kiểu máy, hãy tham khảo hướng dẫn Các vấn đề thường gặp của chúng tôi để biết các mẹo khắc phục sự cố. Hướng dẫn này bao gồm các vấn đề phổ biến và giải pháp để giúp bạn đảm bảo hoạt động trơn tru. Để được hỗ trợ thêm, hãy truy cập Trung tâm trợ giúp của chúng tôi.
