Bỏ qua nội dung

Học cách xuất sang TFLite Edge TPU Định dạng Từ YOLO11 Người mẫu

Triển khai các mô hình thị giác máy tính trên các thiết bị có sức mạnh tính toán hạn chế, chẳng hạn như hệ thống di động hoặc nhúng, có thể rất khó khăn. Sử dụng định dạng mô hình được tối ưu hóa để có hiệu suất nhanh hơn sẽ đơn giản hóa quy trình. TensorFlow Lite Edge TPU hoặc TFLite Edge TPU Định dạng mô hình được thiết kế để sử dụng năng lượng tối thiểu trong khi vẫn mang lại hiệu suất nhanh cho mạng nơ-ron.

Xuất sang TFLite Edge TPU Tính năng định dạng cho phép bạn tối ưu hóa các mô hình Ultralytics YOLO11 của mình để suy luận tốc độ cao và công suất thấp. Trong hướng dẫn này, chúng tôi sẽ hướng dẫn bạn cách chuyển đổi các mô hình của mình sang TFLite Edge TPU định dạng, giúp các mô hình của bạn hoạt động tốt hơn trên nhiều thiết bị di động và nhúng khác nhau.

Tại sao bạn nên xuất sang TFLite Edge TPU ?

Xuất mô hình sang TensorFlow Edge TPU làm cho các tác vụ học máy trở nên nhanh chóng và hiệu quả. Công nghệ này phù hợp với các ứng dụng có nguồn điện, tài nguyên điện toán và kết nối hạn chế. The Edge TPU là một bộ tăng tốc phần cứng của Google . Nó tăng tốc TensorFlow Các mô hình Lite trên các thiết bị biên. Hình ảnh bên dưới cho thấy một ví dụ về quy trình liên quan.

TFLite cạnh TPU

Cạnh TPU hoạt động với các mô hình lượng tử hóa. Lượng tử hóa làm cho các mô hình nhỏ hơn và nhanh hơn mà không làm mất nhiều độ chính xác . Nó lý tưởng cho các tài nguyên hạn chế của điện toán biên, cho phép các ứng dụng phản hồi nhanh chóng bằng cách giảm độ trễ và cho phép xử lý dữ liệu nhanh chóng tại địa phương, mà không phụ thuộc vào đám mây. Xử lý cục bộ cũng giữ cho dữ liệu người dùng riêng tư và an toàn vì nó không được gửi đến máy chủ từ xa.

Các tính năng chính của TFLite Edge TPU

Sau đây là những tính năng chính làm nên TFLite Edge TPU một lựa chọn định dạng mô hình tuyệt vời cho các nhà phát triển:

  • Hiệu suất được tối ưu hóa trên các thiết bị Edge : TFLite Edge TPU đạt được hiệu suất mạng nơ-ron tốc độ cao thông qua lượng tử hóa, tối ưu hóa mô hình, tăng tốc phần cứng và tối ưu hóa trình biên dịch. Kiến trúc tối giản của nó góp phần vào kích thước nhỏ hơn và hiệu quả về chi phí.

  • Thông lượng tính toán cao : TFLite Edge TPU kết hợp khả năng tăng tốc phần cứng chuyên dụng và thực thi thời gian chạy hiệu quả để đạt được thông lượng tính toán cao. Nó rất phù hợp để triển khai các mô hình học máy có yêu cầu hiệu suất nghiêm ngặt trên các thiết bị biên.

  • Tính toán ma trận hiệu quả : TensorFlow Bờ rìa TPU được tối ưu hóa cho các phép toán ma trận, rất quan trọng đối với các phép tính mạng nơ-ron . Hiệu quả này là chìa khóa trong các mô hình học máy, đặc biệt là các mô hình yêu cầu nhiều phép nhân và biến đổi ma trận phức tạp.

Tùy chọn triển khai với TFLite Edge TPU

Trước khi chúng ta tìm hiểu cách xuất khẩu YOLO11 mô hình cho TFLite Edge TPU định dạng, chúng ta hãy hiểu TFLite Edge ở đâu TPU mô hình thường được sử dụng.

TFLite cạnh TPU cung cấp nhiều tùy chọn triển khai khác nhau cho các mô hình học máy, bao gồm:

  • Triển khai trên thiết bị : TensorFlow Bờ rìa TPU Các mô hình có thể được triển khai trực tiếp trên thiết bị di động và nhúng. Việc triển khai trên thiết bị cho phép các mô hình thực hiện trực tiếp trên phần cứng, loại bỏ nhu cầu kết nối đám mây.

  • Điện toán biên với TPU TensorFlow đám mây : Trong các trường hợp mà các thiết bị biên có khả năng xử lý hạn chế, TensorFlow Edge TPU có thể chuyển giao các tác vụ suy luận sang các máy chủ đám mây được trang bị TPU.

  • Triển khai lai : Một phương pháp lai kết hợp triển khai trên thiết bị và trên đám mây và cung cấp giải pháp linh hoạt và có thể mở rộng để triển khai các mô hình học máy. Ưu điểm bao gồm xử lý trên thiết bị để phản hồi nhanh và điện toán đám mây để tính toán phức tạp hơn.

Xuất khẩu YOLO11 Các mô hình cho TFLite Edge TPU

Bạn có thể mở rộng khả năng tương thích của mô hình và tính linh hoạt triển khai bằng cách chuyển đổi YOLO11 mô hình để TensorFlow Bờ rìa TPU .

Cài đặt

Để cài đặt gói cần thiết, hãy chạy:

Cài đặt

# Install the required package for YOLO11
pip install ultralytics

Để biết hướng dẫn chi tiết và các biện pháp thực hành tốt nhất liên quan đến quy trình cài đặt, hãy xem hướng dẫn Cài đặt Ultralytics của chúng tôi. Trong khi cài đặt các gói cần thiết cho YOLO11 , nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo hướng dẫn Sự cố thường gặp của chúng tôi để biết giải pháp và mẹo.

Cách sử dụng

Trước khi tìm hiểu hướng dẫn sử dụng, điều quan trọng cần lưu ý là mặc dù tất cả các mẫu Ultralytics YOLO11 đều có thể xuất, nhưng bạn có thể đảm bảo rằng mẫu bạn chọn có hỗ trợ chức năng xuất tại đây .

Cách sử dụng

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Để biết thêm chi tiết về các tùy chọn xuất được hỗ trợ, hãy truy cập trang tài liệu Ultralytics về các tùy chọn triển khai .

Triển khai Đã xuất YOLO11 TFLite cạnh TPU Mô hình

Sau khi xuất thành công Ultralytics YOLO11 mô hình cho TFLite Edge TPU định dạng, bây giờ bạn có thể triển khai chúng. Bước đầu tiên chính và được khuyến nghị để chạy TFLite Edge TPU mô hình là sử dụng YOLO Phương thức ("model_edgetpu.tflite") như đã nêu trong đoạn mã sử dụng trước đó.

Tuy nhiên, để có hướng dẫn chi tiết về việc triển khai TFLite Edge của bạn TPU mô hình, hãy xem các tài nguyên sau:

Bản tóm tắt

Trong hướng dẫn này, chúng ta đã học cách xuất Ultralytics YOLO11 mô hình cho TFLite Edge TPU định dạng. Bằng cách làm theo các bước được đề cập ở trên, bạn có thể tăng tốc độ và sức mạnh của các ứng dụng thị giác máy tính .

Để biết thêm thông tin chi tiết về cách sử dụng, hãy truy cập trang web chính thức của Edge TPU .

Ngoài ra, để biết thêm thông tin về các Ultralytics YOLO11 tích hợp, vui lòng truy cập trang hướng dẫn tích hợp của chúng tôi. Tại đó, bạn sẽ khám phá ra các nguồn tài nguyên và hiểu biết có giá trị.

CÂU HỎI THƯỜNG GẶP

Làm thế nào để tôi xuất khẩu một YOLO11 mô hình cho TFLite Edge TPU định dạng?

Để xuất khẩu một YOLO11 mô hình cho TFLite Edge TPU định dạng, bạn có thể làm theo các bước sau:

Cách sử dụng

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Để biết thông tin chi tiết về việc xuất mô hình sang các định dạng khác, hãy tham khảo hướng dẫn xuất của chúng tôi.

Lợi ích của việc xuất khẩu là gì? YOLO11 mô hình cho TFLite Edge TPU ?

Xuất khẩu YOLO11 mô hình cho TFLite Edge TPU mang lại nhiều lợi ích:

  • Hiệu suất được tối ưu hóa : Đạt được hiệu suất mạng nơ-ron tốc độ cao với mức tiêu thụ điện năng tối thiểu.
  • Giảm độ trễ : Xử lý dữ liệu cục bộ nhanh chóng mà không cần phụ thuộc vào đám mây.
  • Nâng cao quyền riêng tư : Xử lý cục bộ giúp dữ liệu người dùng được riêng tư và an toàn.

Điều này làm cho nó trở nên lý tưởng cho các ứng dụng trong điện toán biên , nơi các thiết bị có nguồn điện và tài nguyên tính toán hạn chế. Tìm hiểu thêm về lý do tại sao bạn nên xuất .

Tôi có thể triển khai TFLite Edge không? TPU mô hình trên thiết bị di động và nhúng?

Đúng, TensorFlow Cạnh Lite TPU Các mô hình có thể được triển khai trực tiếp trên thiết bị di động và nhúng. Phương pháp triển khai này cho phép các mô hình thực hiện trực tiếp trên phần cứng, cung cấp khả năng suy luận nhanh hơn và hiệu quả hơn. Để biết ví dụ về tích hợp, hãy xem hướng dẫn của chúng tôi về cách triển khai Coral Edge TPU trên Raspberry Pi .

Một số trường hợp sử dụng phổ biến của TFLite Edge là gì? TPU mô hình?

Các trường hợp sử dụng phổ biến cho TFLite Edge TPU các mô hình bao gồm:

  • Camera thông minh : Nâng cao khả năng phân tích hình ảnh và video theo thời gian thực.
  • Thiết bị IoT : Cho phép tự động hóa nhà thông minh và công nghiệp.
  • Chăm sóc sức khỏe : Đẩy nhanh quá trình chẩn đoán và chụp ảnh y tế.
  • Bán lẻ : Cải thiện quản lý hàng tồn kho và phân tích hành vi khách hàng.

Các ứng dụng này được hưởng lợi từ hiệu suất cao và mức tiêu thụ điện năng thấp của TFLite Edge TPU mô hình. Khám phá thêm về các tình huống sử dụng .

Làm thế nào tôi có thể khắc phục sự cố khi xuất hoặc triển khai TFLite Edge TPU mô hình?

Nếu bạn gặp sự cố khi xuất hoặc triển khai TFLite Edge TPU mô hình, hãy tham khảo hướng dẫn Các vấn đề thường gặp của chúng tôi để biết mẹo khắc phục sự cố. Hướng dẫn này đề cập đến các vấn đề thường gặp và giải pháp giúp bạn đảm bảo hoạt động trơn tru. Để được hỗ trợ thêm, hãy truy cập Trung tâm trợ giúp của chúng tôi.

📅 Được tạo cách đây 9 tháng ✏️ Đã cập nhật cách đây 2 tháng
Trợ lý Ultralytics glenn-jocher MatthewNoyce RizwanMunawar Burhan-Q abirami vina

Bình luận