Bỏ qua nội dung

Làm thế nào để xuất khẩu sang NCNN từ YOLO11 để triển khai trơn tru

Triển khai các mô hình thị giác máy tính trên các thiết bị có sức mạnh tính toán hạn chế, chẳng hạn như hệ thống di động hoặc nhúng, có thể rất khó khăn. Bạn cần đảm bảo sử dụng định dạng được tối ưu hóa để có hiệu suất tối ưu. Điều này đảm bảo rằng ngay cả các thiết bị có sức mạnh xử lý hạn chế cũng có thể xử lý tốt các tác vụ thị giác máy tính nâng cao.

Xuất khẩu sang NCNN tính năng định dạng cho phép bạn tối ưu hóa các mô hình Ultralytics YOLO11 của mình cho các ứng dụng dựa trên thiết bị nhẹ. Trong hướng dẫn này, chúng tôi sẽ hướng dẫn bạn cách chuyển đổi các mô hình của mình sang NCNN định dạng, giúp các mô hình của bạn hoạt động tốt hơn trên nhiều thiết bị di động và nhúng khác nhau.

Tại sao bạn nên xuất khẩu sang NCNN ?

NCNN Tổng quan

Khung NCNN do Tencent phát triển là một khung tính toán suy luận mạng nơ-ron hiệu suất cao được tối ưu hóa dành riêng cho các nền tảng di động, bao gồm điện thoại di động, thiết bị nhúng và thiết bị IoT. NCNN tương thích với nhiều nền tảng khác nhau, bao gồm Linux, Android , iOS và macOS.

NCNN được biết đến với tốc độ xử lý nhanh trên CPU di động và cho phép triển khai nhanh chóng các mô hình học sâu lên nền tảng di động. Điều này giúp xây dựng các ứng dụng thông minh dễ dàng hơn, đưa sức mạnh của AI vào tầm tay bạn.

Các tính năng chính của NCNN Mô hình

NCNN các mô hình cung cấp nhiều tính năng chính cho phép máy học trên thiết bị bằng cách giúp các nhà phát triển chạy mô hình của họ trên thiết bị di động, nhúng và biên:

  • Hiệu quả và hiệu suất cao : NCNN Các mô hình được tạo ra để hiệu quả và nhẹ, được tối ưu hóa để chạy trên các thiết bị di động và nhúng như Raspberry Pi với tài nguyên hạn chế. Chúng cũng có thể đạt hiệu suất cao với độ chính xác cao trên nhiều tác vụ dựa trên tầm nhìn máy tính.

  • Lượng tử hóa : NCNN các mô hình thường hỗ trợ lượng tử hóa, đây là một kỹ thuật làm giảm độ chính xác của trọng số và kích hoạt của mô hình. Điều này dẫn đến cải thiện hơn nữa về hiệu suất và giảm dấu chân bộ nhớ.

  • Khả năng tương thích : NCNN Các mô hình tương thích với các khuôn khổ học sâu phổ biến như TensorFlow , Caffe và ONNX . Khả năng tương thích này cho phép các nhà phát triển sử dụng các mô hình và quy trình làm việc hiện có một cách dễ dàng.

  • Dễ sử dụng : NCNN các mô hình được thiết kế để dễ dàng tích hợp vào nhiều ứng dụng khác nhau, nhờ khả năng tương thích với các khuôn khổ học sâu phổ biến. Ngoài ra, NCNN cung cấp các công cụ thân thiện với người dùng để chuyển đổi mô hình giữa các định dạng khác nhau, đảm bảo khả năng tương tác trơn tru trên toàn bộ bối cảnh phát triển.

Tùy chọn triển khai với NCNN

Trước khi chúng ta xem xét mã để xuất YOLO11 các mô hình cho NCNN định dạng, chúng ta hãy hiểu làm thế nào NCNN các mô hình thường được sử dụng.

NCNN Các mô hình được thiết kế để đạt hiệu quả và hiệu suất cao, tương thích với nhiều nền tảng triển khai khác nhau:

  • Triển khai di động : Được tối ưu hóa cụ thể cho Android Và iOS , cho phép tích hợp liền mạch vào các ứng dụng di động để suy luận hiệu quả trên thiết bị.

  • Hệ thống nhúng và thiết bị IoT : Nếu bạn thấy rằng chạy suy luận trên Raspberry Pi với Ultralytics Guide không đủ nhanh, hãy chuyển sang NCNN mô hình xuất khẩu có thể giúp đẩy nhanh tiến độ. NCNN rất tuyệt vời cho các thiết bị như Raspberry Pi và NVIDIA Jetson, đặc biệt trong những tình huống bạn cần xử lý nhanh ngay trên thiết bị.

  • Triển khai trên máy tính để bàn và máy chủ : Có khả năng triển khai trên môi trường máy tính để bàn và máy chủ trên Linux, Windows và macOS, hỗ trợ phát triển, đào tạo và đánh giá với năng lực tính toán cao hơn.

Xuất khẩu sang NCNN : Chuyển đổi của bạn YOLO11 Người mẫu

Bạn có thể mở rộng khả năng tương thích của mô hình và tính linh hoạt triển khai bằng cách chuyển đổi YOLO11 mô hình để NCNN định dạng.

Cài đặt

Để cài đặt các gói cần thiết, hãy chạy:

Cài đặt

# Install the required package for YOLO11
pip install ultralytics

Để biết hướng dẫn chi tiết và các biện pháp thực hành tốt nhất liên quan đến quy trình cài đặt, hãy xem hướng dẫn Cài đặt Ultralytics của chúng tôi. Trong khi cài đặt các gói cần thiết cho YOLO11 , nếu bạn gặp bất kỳ khó khăn nào, hãy tham khảo hướng dẫn Sự cố thường gặp của chúng tôi để biết giải pháp và mẹo.

Cách sử dụng

Trước khi tìm hiểu hướng dẫn sử dụng, điều quan trọng cần lưu ý là mặc dù tất cả các mẫu Ultralytics YOLO11 đều có thể xuất, nhưng bạn có thể đảm bảo rằng mẫu bạn chọn có hỗ trợ chức năng xuất tại đây .

Cách sử dụng

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to NCNN format
model.export(format="ncnn")  # creates '/yolo11n_ncnn_model'

# Load the exported NCNN model
ncnn_model = YOLO("./yolo11n_ncnn_model")

# Run inference
results = ncnn_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to NCNN format
yolo export model=yolo11n.pt format=ncnn  # creates '/yolo11n_ncnn_model'

# Run inference with the exported model
yolo predict model='./yolo11n_ncnn_model' source='https://ultralytics.com/images/bus.jpg'

Để biết thêm chi tiết về các tùy chọn xuất được hỗ trợ, hãy truy cập trang tài liệu Ultralytics về các tùy chọn triển khai .

Triển khai Đã xuất YOLO11 NCNN Mô hình

Sau khi xuất thành công Ultralytics YOLO11 mô hình để NCNN định dạng, bây giờ bạn có thể triển khai chúng. Bước đầu tiên chính và được khuyến nghị để chạy NCNN mô hình là sử dụng YOLO ("./model_ncnn_model"), như đã nêu trong đoạn mã sử dụng trước đó. Tuy nhiên, để biết hướng dẫn chi tiết về việc triển khai NCNN các mô hình trong nhiều bối cảnh khác nhau, hãy xem các tài nguyên sau:

  • Android : Blog này giải thích cách sử dụng NCNN các mô hình để thực hiện các nhiệm vụ như phát hiện đối tượng thông qua Android ứng dụng.

  • macOS : Hiểu cách sử dụng NCNN mô hình thực hiện tác vụ thông qua macOS.

  • Linux : Khám phá trang này để tìm hiểu cách triển khai NCNN các mô hình trên các thiết bị có nguồn lực hạn chế như Raspberry Pi và các thiết bị tương tự khác.

  • Windows x64 sử dụng VS2017 : Khám phá blog này để tìm hiểu cách triển khai NCNN mô hình trên windows x64 sử dụng Visual Studio Community 2017.

Bản tóm tắt

Trong hướng dẫn này, chúng tôi đã đề cập đến việc xuất khẩu Ultralytics YOLO11 các mô hình cho NCNN định dạng. Bước chuyển đổi này rất quan trọng để cải thiện hiệu quả và tốc độ của YOLO11 các mô hình, giúp chúng hiệu quả hơn và phù hợp hơn với môi trường máy tính có nguồn lực hạn chế.

Để biết hướng dẫn chi tiết về cách sử dụng, vui lòng tham khảo tài liệu chính thức NCNN .

Ngoài ra, nếu bạn quan tâm đến việc khám phá các tùy chọn tích hợp khác cho Ultralytics YOLO11 , hãy nhớ truy cập trang hướng dẫn tích hợp của chúng tôi để biết thêm thông tin chi tiết và hiểu biết sâu sắc.

CÂU HỎI THƯỜNG GẶP

Làm thế nào để tôi xuất khẩu Ultralytics YOLO11 mô hình để NCNN định dạng?

Để xuất khẩu của bạn Ultralytics YOLO11 mô hình để NCNN định dạng, hãy làm theo các bước sau:

  • Python: Sử dụng export chức năng từ YOLO lớp học.

    from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export to NCNN format
model.export(format="ncnn")  # creates '/yolo11n_ncnn_model'

  • CLI: Sử dụng yolo lệnh với export lý lẽ. 

    yolo export model=yolo11n.pt format=ncnn  # creates '/yolo11n_ncnn_model'

Để biết các tùy chọn xuất chi tiết, hãy kiểm tra trang Xuất trong tài liệu.

Những lợi thế của việc xuất khẩu là gì? YOLO11 mô hình để NCNN ?

Xuất khẩu của bạn Ultralytics YOLO11 mô hình để NCNN mang lại nhiều lợi ích:

  • Hiệu quả : NCNN các mô hình được tối ưu hóa cho các thiết bị di động và nhúng, đảm bảo hiệu suất cao ngay cả khi tài nguyên tính toán hạn chế.
  • Lượng tử hóa : NCNN hỗ trợ các kỹ thuật như lượng tử hóa giúp cải thiện tốc độ mô hình và giảm mức sử dụng bộ nhớ.
  • Khả năng tương thích rộng : Bạn có thể triển khai NCNN mô hình trên nhiều nền tảng, bao gồm Android , iOS , Linux và macOS.

Để biết thêm chi tiết, hãy xem phần Xuất sang NCNN trong tài liệu.

Tại sao tôi nên sử dụng NCNN cho các ứng dụng AI di động của tôi?

NCNN , được phát triển bởi Tencent, được tối ưu hóa đặc biệt cho nền tảng di động. Những lý do chính để sử dụng NCNN bao gồm:

  • Hiệu suất cao : Được thiết kế để xử lý hiệu quả và nhanh chóng trên CPU di động.
  • Đa nền tảng : Tương thích với các khuôn khổ phổ biến như TensorFlow và ONNX , giúp việc chuyển đổi và triển khai mô hình trên nhiều nền tảng khác nhau trở nên dễ dàng hơn.
  • Hỗ trợ cộng đồng : Sự hỗ trợ tích cực của cộng đồng đảm bảo cải tiến và cập nhật liên tục.

Để hiểu rõ hơn, hãy xem phần tổng quan về NCNN trong tài liệu.

Những nền tảng nào được hỗ trợ NCNN triển khai mô hình ?

NCNN rất linh hoạt và hỗ trợ nhiều nền tảng khác nhau:

  • Di động : Android , iOS .
  • Hệ thống nhúng và thiết bị IoT : Các thiết bị như Raspberry Pi và NVIDIA Jetson.
  • Máy tính để bàn và máy chủ : Linux, Windows và macOS.

Nếu chạy mô hình trên Raspberry Pi không đủ nhanh, việc chuyển đổi sang NCNN định dạng có thể tăng tốc mọi thứ như được nêu chi tiết trong Hướng dẫn Raspberry Pi của chúng tôi.

Tôi có thể triển khai như thế nào Ultralytics YOLO11 NCNN mô hình trên Android ?

Để triển khai của bạn YOLO11 mô hình trên Android :

  1. Bản dựng cho Android : Làm theo hướng dẫn Bản dựng cho Android của NCNN .
  2. Tích hợp với ứng dụng của bạn : Sử dụng NCNN Android SDK để tích hợp mô hình đã xuất vào ứng dụng của bạn nhằm suy luận hiệu quả trên thiết bị.

Để biết hướng dẫn từng bước, hãy tham khảo hướng dẫn của chúng tôi về Triển khai Mô hình YOLO11 NCNN .

Để biết hướng dẫn và trường hợp sử dụng nâng cao hơn, hãy truy cập trang tài liệu Ultralytics .

📅 Được tạo cách đây 9 tháng ✏️ Đã cập nhật cách đây 2 tháng
Trợ lý Ultralytics glenn-jocher MatthewNoyce RizwanMunawar abirami vina

Bình luận