Bỏ qua nội dung

Hiểu cách xuất khẩu sang TF SavedModel Định dạng Từ YOLO11

Việc triển khai các mô hình học máy có thể là một thách thức. Tuy nhiên, sử dụng định dạng mô hình hiệu quả và linh hoạt có thể giúp công việc của bạn dễ dàng hơn. TF SavedModel là một khuôn khổ học máy nguồn mở được sử dụng bởi TensorFlow để tải các mô hình học máy theo cách nhất quán. Nó giống như một chiếc vali để TensorFlow các mẫu mã, giúp bạn dễ dàng mang theo và sử dụng trên nhiều thiết bị và hệ thống khác nhau.

Học cách xuất khẩu sang TF SavedModel từ các mô hình Ultralytics YOLO11 có thể giúp bạn triển khai các mô hình dễ dàng trên nhiều nền tảng và môi trường khác nhau. Trong hướng dẫn này, chúng tôi sẽ hướng dẫn cách chuyển đổi các mô hình của bạn sang TF SavedModel định dạng, đơn giản hóa quá trình chạy suy luận với các mô hình của bạn trên các thiết bị khác nhau.

Tại sao bạn nên xuất khẩu sang TF SavedModel ?

Các TensorFlow SavedModel định dạng là một phần của TensorFlow hệ sinh thái được phát triển bởi Google như được hiển thị bên dưới. Nó được thiết kế để lưu và tuần tự hóa TensorFlow mô hình liền mạch. Nó bao gồm các chi tiết đầy đủ của các mô hình như kiến trúc, trọng số và thậm chí thông tin biên dịch. Điều này giúp dễ dàng chia sẻ, triển khai và tiếp tục đào tạo trên các môi trường khác nhau.

TF SavedModel

Các TF SavedModel có một lợi thế chính: khả năng tương thích của nó. Nó hoạt động tốt với TensorFlow Phục vụ, TensorFlow Lite, và TensorFlow .js. Khả năng tương thích này giúp chia sẻ và triển khai các mô hình dễ dàng hơn trên nhiều nền tảng khác nhau, bao gồm cả ứng dụng web và di động. TF SavedModel Định dạng này hữu ích cho cả nghiên cứu và sản xuất. Nó cung cấp một cách thống nhất để quản lý các mô hình của bạn, đảm bảo chúng sẵn sàng cho mọi ứng dụng.

Các tính năng chính của TF Mô hình đã lưu

Dưới đây là những tính năng chính làm nên TF SavedModel một lựa chọn tuyệt vời cho các nhà phát triển AI:

  • Tính di động : TF SavedModel cung cấp định dạng tuần tự hóa kín, có thể phục hồi, trung lập về ngôn ngữ. Chúng cho phép các hệ thống và công cụ cấp cao hơn sản xuất, tiêu thụ và chuyển đổi TensorFlow mô hình. SavedModels có thể dễ dàng được chia sẻ và triển khai trên nhiều nền tảng và môi trường khác nhau.

  • Dễ dàng triển khai : TF SavedModel bó đồ thị tính toán, các tham số được đào tạo và siêu dữ liệu cần thiết vào một gói duy nhất. Chúng có thể dễ dàng được tải và sử dụng để suy luận mà không cần mã gốc đã xây dựng mô hình. Điều này làm cho việc triển khai TensorFlow mô hình đơn giản và hiệu quả trong nhiều môi trường sản xuất khác nhau.

  • Quản lý tài sản : TF SavedModel hỗ trợ việc đưa vào các tài sản bên ngoài như từ vựng, nhúng hoặc bảng tra cứu. Các tài sản này được lưu trữ cùng với định nghĩa biểu đồ và các biến, đảm bảo chúng khả dụng khi mô hình được tải. Tính năng này đơn giản hóa việc quản lý và phân phối các mô hình dựa trên các tài nguyên bên ngoài.

Tùy chọn triển khai với TF SavedModel

Trước khi chúng ta đi sâu vào quá trình xuất khẩu YOLO11 các mô hình cho TF SavedModel định dạng, chúng ta hãy cùng khám phá một số tình huống triển khai điển hình sử dụng định dạng này.

TF SavedModel cung cấp nhiều tùy chọn để triển khai các mô hình học máy của bạn:

  • Phục vụ TensorFlow : TensorFlow Serving là một hệ thống phục vụ linh hoạt, hiệu suất cao được thiết kế cho môi trường sản xuất. Nó hỗ trợ gốc TF SavedModels giúp bạn dễ dàng triển khai và phục vụ các mô hình của mình trên nền tảng đám mây, máy chủ tại chỗ hoặc thiết bị biên.

  • Nền tảng đám mây: Các nhà cung cấp đám mây lớn như Google Nền tảng đám mây (GCP), Amazon Web Services (AWS) và Microsoft Azure cung cấp các dịch vụ để triển khai và chạy TensorFlow các mô hình, bao gồm TF SavedModels. Các dịch vụ này cung cấp cơ sở hạ tầng có thể mở rộng và quản lý, cho phép bạn triển khai và mở rộng mô hình của mình một cách dễ dàng.

  • Thiết bị di động và nhúng: TensorFlow Lite, một giải pháp nhẹ để chạy các mô hình học máy trên thiết bị di động, nhúng và IoT, hỗ trợ chuyển đổi TF SavedModels vào TensorFlow Định dạng Lite. Định dạng này cho phép bạn triển khai mô hình của mình trên nhiều loại thiết bị, từ điện thoại thông minh và máy tính bảng đến bộ vi điều khiển và thiết bị biên.

  • TensorFlow Thời gian chạy: TensorFlow Thời gian chạy (tfrt) là một thời gian chạy hiệu suất cao để thực hiện TensorFlow đồ thị. Nó cung cấp API cấp thấp hơn để tải và chạy TF SavedModels trong môi trường C++. TensorFlow Thời gian chạy cung cấp hiệu suất tốt hơn so với tiêu chuẩn TensorFlow thời gian chạy. Phù hợp với các tình huống triển khai yêu cầu suy luận độ trễ thấp và tích hợp chặt chẽ với cơ sở mã C++ hiện có.

Xuất khẩu YOLO11 Các mô hình để TF SavedModel

Bằng cách xuất khẩu YOLO11 các mô hình cho TF SavedModel định dạng, bạn nâng cao khả năng thích ứng và dễ triển khai trên nhiều nền tảng khác nhau.

Cài đặt

Để cài đặt gói cần thiết, hãy chạy:

Cài đặt

# Install the required package for YOLO11
pip install ultralytics

Để biết hướng dẫn chi tiết và các biện pháp thực hành tốt nhất liên quan đến quy trình cài đặt, hãy xem hướng dẫn Cài đặt Ultralytics của chúng tôi. Trong khi cài đặt các gói cần thiết cho YOLO11 , nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo hướng dẫn Sự cố thường gặp của chúng tôi để biết giải pháp và mẹo.

Cách sử dụng

Trước khi tìm hiểu hướng dẫn sử dụng, điều quan trọng cần lưu ý là mặc dù tất cả các mẫu Ultralytics YOLO11 đều có thể xuất, nhưng bạn có thể đảm bảo rằng mẫu bạn chọn có hỗ trợ chức năng xuất tại đây .

Cách sử dụng

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolo11n_saved_model'

# Load the exported TF SavedModel model
tf_savedmodel_model = YOLO("./yolo11n_saved_model")

# Run inference
results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TF SavedModel format
yolo export model=yolo11n.pt format=saved_model  # creates '/yolo11n_saved_model'

# Run inference with the exported model
yolo predict model='./yolo11n_saved_model' source='https://ultralytics.com/images/bus.jpg'

Để biết thêm chi tiết về các tùy chọn xuất được hỗ trợ, hãy truy cập trang tài liệu Ultralytics về các tùy chọn triển khai .

Triển khai Đã xuất YOLO11 TF SavedModel Mô hình

Bây giờ bạn đã xuất khẩu YOLO11 mô hình cho TF SavedModel định dạng, bước tiếp theo là triển khai nó. Bước đầu tiên chính và được khuyến nghị để chạy TF GraphDef mô hình là sử dụng YOLO Phương thức ("./yolo11n_saved_model") như đã hiển thị trước đó trong đoạn mã sử dụng.

Tuy nhiên, để có hướng dẫn chi tiết về việc triển khai TF SavedModel mô hình, hãy xem các tài nguyên sau:

  • TensorFlow Serving : Đây là tài liệu dành cho nhà phát triển về cách triển khai TF SavedModel mô hình sử dụng TensorFlow Phục vụ.

  • Chạy TensorFlow SavedModel trong Node.js : A TensorFlow bài đăng trên blog về việc chạy một TensorFlow SavedModel trong Node.js trực tiếp mà không cần chuyển đổi.

  • Triển khai trên Đám mây : A TensorFlow bài đăng trên blog về việc triển khai TensorFlow SavedModel mô hình trên Nền tảng AI đám mây.

Bản tóm tắt

Trong hướng dẫn này, chúng tôi đã khám phá cách xuất Ultralytics YOLO11 các mô hình cho TF SavedModel định dạng. Bằng cách xuất sang TF SavedModel , bạn có được sự linh hoạt để tối ưu hóa, triển khai và mở rộng quy mô YOLO11 mô hình trên nhiều nền tảng khác nhau.

Để biết thêm chi tiết về cách sử dụng, hãy truy cập tài liệu chính thức của TF SavedModel .

Để biết thêm thông tin về việc tích hợp Ultralytics YOLO11 với các nền tảng và khuôn khổ khác, đừng quên xem trang hướng dẫn tích hợp của chúng tôi. Nó chứa đầy các tài nguyên tuyệt vời để giúp bạn tận dụng tối đa YOLO11 trong các dự án của bạn.

CÂU HỎI THƯỜNG GẶP

Làm thế nào để tôi xuất khẩu một Ultralytics YOLO mô hình để TensorFlow SavedModel định dạng?

Xuất khẩu một Ultralytics YOLO mô hình cho TensorFlow SavedModel định dạng rất đơn giản. Bạn có thể sử dụng một trong hai Python hoặc CLI để đạt được điều này:

Xuất khẩu YOLO11 ĐẾN TF SavedModel

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolo11n_saved_model'

# Load the exported TF SavedModel for inference
tf_savedmodel_model = YOLO("./yolo11n_saved_model")
results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

# Export the YOLO11 model to TF SavedModel format
yolo export model=yolo11n.pt format=saved_model  # creates '/yolo11n_saved_model'

# Run inference with the exported model
yolo predict model='./yolo11n_saved_model' source='https://ultralytics.com/images/bus.jpg'

Tham khảo tài liệu Ultralytics Export để biết thêm chi tiết.

Tại sao tôi nên sử dụng TensorFlow SavedModel định dạng?

Các TensorFlow SavedModel Định dạng này cung cấp một số lợi thế cho việc triển khai mô hình :

  • Tính di động: Cung cấp định dạng không phụ thuộc vào ngôn ngữ, giúp dễ dàng chia sẻ và triển khai các mô hình trên nhiều môi trường khác nhau.
  • Khả năng tương thích: Tích hợp liền mạch với các công cụ như TensorFlow Phục vụ, TensorFlow Lite, và TensorFlow .js, rất cần thiết để triển khai các mô hình trên nhiều nền tảng khác nhau, bao gồm cả ứng dụng web và ứng dụng di động.
  • Đóng gói hoàn chỉnh: Mã hóa kiến trúc mô hình, trọng số và thông tin biên dịch, cho phép chia sẻ và tiếp tục đào tạo một cách trực tiếp.

Để biết thêm các lợi ích và tùy chọn triển khai, hãy xem các tùy chọn triển khai mô hình Ultralytics YOLO .

Các kịch bản triển khai điển hình cho là gì? TF SavedModel ?

TF SavedModel có thể được triển khai trong nhiều môi trường khác nhau, bao gồm:

  • TensorFlow Serving: Lý tưởng cho các môi trường sản xuất yêu cầu dịch vụ mô hình có khả năng mở rộng và hiệu suất cao.
  • Nền tảng đám mây: Hỗ trợ các dịch vụ đám mây lớn như Google Nền tảng đám mây (GCP), Amazon Web Services (AWS) và Microsoft Azure để triển khai mô hình có khả năng mở rộng.
  • Thiết bị di động và nhúng: Sử dụng TensorFlow Lite để chuyển đổi TF SavedModels cho phép triển khai trên các thiết bị di động, thiết bị IoT và bộ vi điều khiển.
  • TensorFlow Runtime: Dành cho môi trường C++ cần suy luận độ trễ thấp với hiệu suất tốt hơn.

Để biết các tùy chọn triển khai chi tiết, hãy truy cập hướng dẫn chính thức về triển khai mô hình TensorFlow .

Làm thế nào tôi có thể cài đặt các gói cần thiết để xuất YOLO11 mô hình?

Để xuất khẩu YOLO11 mô hình, bạn cần phải cài đặt ultralytics gói. Chạy lệnh sau trong terminal của bạn:

pip install ultralytics

Để biết hướng dẫn cài đặt chi tiết hơn và các biện pháp thực hành tốt nhất, hãy tham khảo hướng dẫn Cài đặt Ultralytics của chúng tôi. Nếu bạn gặp bất kỳ sự cố nào, hãy tham khảo hướng dẫn Sự cố thường gặp của chúng tôi.

Những đặc điểm chính của là gì? TensorFlow SavedModel định dạng?

TF SavedModel Định dạng này có lợi cho các nhà phát triển AI vì những tính năng sau:

  • Tính di động: Cho phép chia sẻ và triển khai trên nhiều môi trường khác nhau một cách dễ dàng.
  • Dễ triển khai: Đóng gói đồ thị tính toán, các tham số đã đào tạo và siêu dữ liệu vào một gói duy nhất, giúp đơn giản hóa việc tải và suy luận.
  • Quản lý tài sản: Hỗ trợ các tài sản bên ngoài như từ vựng, đảm bảo chúng có sẵn khi mô hình tải.

Để biết thêm chi tiết, hãy khám phá tài liệu chính thức của TensorFlow .

📅 Được tạo cách đây 8 tháng ✏️ Đã cập nhật cách đây 2 tháng
Trợ lý Ultralytics glenn-jocher MatthewNoyce RizwanMunawar Burhan-Q abirami vina

Bình luận