İçeriğe geç

How to Export to TF GraphDef from YOLO11 for Deployment

When you are deploying cutting-edge computer vision models, like YOLO11, in different environments, you might run into compatibility issues. Google's TensorFlow GraphDef, or TF GraphDef, offers a solution by providing a serialized, platform-independent representation of your model. Using the TF GraphDef model format, you can deploy your YOLO11 model in environments where the complete TensorFlow ecosystem may not be available, such as mobile devices or specialized hardware.

In this guide, we'll walk you step by step through how to export your Ultralytics YOLO11 models to the TF GraphDef model format. By converting your model, you can streamline deployment and use YOLO11's computer vision capabilities in a broader range of applications and platforms.

TensorFlow GraphDef

Neden TF GraphDef adresine İhracat Yapmalısınız?

TF GraphDef is a powerful component of the TensorFlow ecosystem that was developed by Google. It can be used to optimize and deploy models like YOLO11. Exporting to TF GraphDef lets us move models from research to real-world applications. It allows models to run in environments without the full TensorFlow framework.

GraphDef formatı, modeli serileştirilmiş bir hesaplama grafiği olarak temsil eder. Bu, sabit katlama, niceleme ve grafik dönüşümleri gibi çeşitli optimizasyon tekniklerini mümkün kılar. Bu optimizasyonlar verimli yürütme, daha az bellek kullanımı ve daha yüksek çıkarım hızları sağlar.

GraphDef models can use hardware accelerators such as GPUs, TPUs, and AI chips, unlocking significant performance gains for the YOLO11 inference pipeline. The TF GraphDef format creates a self-contained package with the model and its dependencies, simplifying deployment and integration into diverse systems.

TF GraphDef Modellerinin Temel Özellikleri

TF GraphDef offers distinct features for streamlining model deployment and optimization.

İşte temel özelliklerine bir göz atın:

  • Model Serileştirme: TF GraphDef , TensorFlow modellerini platformdan bağımsız bir biçimde serileştirmek ve saklamak için bir yol sağlar. Bu serileştirilmiş temsil, modellerinizi orijinal Python kod tabanı olmadan yüklemenize ve çalıştırmanıza olanak tanıyarak dağıtımı kolaylaştırır.

  • Grafik Optimizasyonu: TF GraphDef hesaplama grafiklerinin optimizasyonunu sağlar. Bu optimizasyonlar, yürütme akışını düzene sokarak, fazlalıkları azaltarak ve işlemleri belirli donanımlara uyacak şekilde uyarlayarak performansı artırabilir.

  • Dağıtım Esnekliği: GraphDef formatına aktarılan modeller, kaynakları kısıtlı cihazlar, web tarayıcıları ve özel donanıma sahip sistemler dahil olmak üzere çeşitli ortamlarda kullanılabilir. Bu, TensorFlow modellerinizin daha geniş çaplı dağıtımı için olanaklar sağlar.

  • Üretim Odağı: GraphDef üretim dağıtımı için tasarlanmıştır. Verimli yürütmeyi, serileştirme özelliklerini ve gerçek dünyadaki kullanım durumlarıyla uyumlu optimizasyonları destekler.

ile Dağıtım Seçenekleri TF GraphDef

Before we dive into the process of exporting YOLO11 models to TF GraphDef, let's take a look at some typical deployment situations where this format is used.

İşte TF GraphDef ile çeşitli platformlarda verimli bir şekilde nasıl dağıtım yapabileceğiniz.

  • TensorFlow Hizmet: Bu çerçeve, TensorFlow modellerini üretim ortamlarında dağıtmak için tasarlanmıştır. TensorFlow Serving, model yönetimi, sürüm oluşturma ve ölçekte verimli model sunumu için altyapı sunar. GraphDef tabanlı modellerinizi üretim web hizmetlerine veya API'lerine entegre etmenin sorunsuz bir yoludur.

  • Mobil ve Gömülü Cihazlar: TensorFlow Lite gibi araçlarla TF GraphDef modellerini akıllı telefonlar, tabletler ve çeşitli gömülü cihazlar için optimize edilmiş formatlara dönüştürebilirsiniz. Modelleriniz daha sonra, yürütmenin yerel olarak yapıldığı, genellikle performans kazanımları ve çevrimdışı yetenekler sağlayan cihaz üzerinde çıkarım için kullanılabilir.

  • Web Browsers: TensorFlow.js enables the deployment of TF GraphDef models directly within web browsers. It paves the way for real-time object detection applications running on the client side, using the capabilities of YOLO11 through JavaScript.

  • Özel Donanım: TF GraphDef 'un platformdan bağımsız yapısı, hızlandırıcılar ve TPU'lar (Tensor İşlem Birimleri) gibi özel donanımları hedeflemesine olanak tanır. Bu cihazlar, hesaplama açısından yoğun modeller için performans avantajları sağlayabilir.

Exporting YOLO11 Models to TF GraphDef

You can convert your YOLO11 object detection model to the TF GraphDef format, which is compatible with various systems, to improve its performance across platforms.

Kurulum

Gerekli paketi yüklemek için çalıştırın:

Kurulum

# Install the required package for YOLO11
pip install ultralytics

For detailed instructions and best practices related to the installation process, check our Ultralytics Installation guide. While installing the required packages for YOLO11, if you encounter any difficulties, consult our Common Issues guide for solutions and tips.

Kullanım

Before diving into the usage instructions, it's important to note that while all Ultralytics YOLO11 models are available for exporting, you can ensure that the model you select supports export functionality here.

Kullanım

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TF GraphDef format
model.export(format="pb")  # creates 'yolo11n.pb'

# Load the exported TF GraphDef model
tf_graphdef_model = YOLO("yolo11n.pb")

# Run inference
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TF GraphDef format
yolo export model=yolo11n.pt format=pb  # creates 'yolo11n.pb'

# Run inference with the exported model
yolo predict model='yolo11n.pb' source='https://ultralytics.com/images/bus.jpg'

Desteklenen dışa aktarma seçenekleri hakkında daha fazla bilgi için dağıtım seçenekleriyle ilgiliUltralytics belge sayfasını ziyaret edin.

Deploying Exported YOLO11 TF GraphDef Models

Once you've exported your YOLO11 model to the TF GraphDef format, the next step is deployment. The primary and recommended first step for running a TF GraphDef model is to use the YOLO("model.pb") method, as previously shown in the usage code snippet.

Bununla birlikte, TF GraphDef modellerinizin dağıtımı hakkında daha fazla bilgi için aşağıdaki kaynaklara göz atın:

  • TensorFlow Serving: A guide on TensorFlow Serving that teaches how to deploy and serve machine learning models efficiently in production environments.

  • TensorFlow Lite: Bu sayfada, makine öğrenimi modellerinin TensorFlow Lite ile cihaz üzerinde çıkarım için optimize edilmiş bir biçime nasıl dönüştürüleceği açıklanmaktadır.

  • TensorFlow.js: Web uygulamalarında kullanılmak üzere TensorFlow veya Keras modellerinin TensorFlow.js formatına nasıl dönüştürüleceğini öğreten bir model dönüştürme kılavuzu.

Özet

In this guide, we explored how to export Ultralytics YOLO11 models to the TF GraphDef format. By doing this, you can flexibly deploy your optimized YOLO11 models in different environments.

Kullanım hakkında daha fazla bilgi için TF GraphDef resmi belgelerini ziyaret edin.

For more information on integrating Ultralytics YOLO11 with other platforms and frameworks, don't forget to check out our integration guide page. It has great resources and insights to help you make the most of YOLO11 in your projects.

SSS

How do I export a YOLO11 model to TF GraphDef format?

Ultralytics YOLO11 models can be exported to TensorFlow GraphDef (TF GraphDef) format seamlessly. This format provides a serialized, platform-independent representation of the model, ideal for deploying in varied environments like mobile and web. To export a YOLO11 model to TF GraphDef, follow these steps:

Kullanım

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TF GraphDef format
model.export(format="pb")  # creates 'yolo11n.pb'

# Load the exported TF GraphDef model
tf_graphdef_model = YOLO("yolo11n.pb")

# Run inference
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TF GraphDef format
yolo export model="yolo11n.pt" format="pb"  # creates 'yolo11n.pb'

# Run inference with the exported model
yolo predict model="yolo11n.pb" source="https://ultralytics.com/images/bus.jpg"

Farklı dışa aktarma seçenekleri hakkında daha fazla bilgi için Ultralytics adresindeki model dışa aktarma belgelerini ziyaret edin.

What are the benefits of using TF GraphDef for YOLO11 model deployment?

Exporting YOLO11 models to the TF GraphDef format offers multiple advantages, including:

  1. Platform Bağımsızlığı: TF GraphDef platformdan bağımsız bir format sunarak modellerin mobil ve web tarayıcıları da dahil olmak üzere çeşitli ortamlarda kullanılabilmesini sağlar.
  2. Optimizasyonlar: Format, yürütme verimliliğini artıran ve bellek kullanımını azaltan sabit katlama, niceleme ve grafik dönüşümleri gibi çeşitli optimizasyonlara olanak tanır.
  3. Donanım Hızlandırma: TF GraphDef formatındaki modeller, performans kazanımları için GPU'lar, TPU'lar ve AI çipleri gibi donanım hızlandırıcılarından yararlanabilir.

Faydalar hakkında daha fazla bilgi için belgelerimizin TF GraphDef bölümüne bakın.

Why should I use Ultralytics YOLO11 over other object detection models?

Ultralytics YOLO11 offers numerous advantages compared to other models like YOLOv5 and YOLOv7. Some key benefits include:

  1. State-of-the-Art Performance: YOLO11 provides exceptional speed and accuracy for real-time object detection, segmentation, and classification.
  2. Kullanım Kolaylığı: Model eğitimi, doğrulama, tahmin ve dışa aktarma için kullanıcı dostu bir API'ye sahiptir ve hem yeni başlayanlar hem de uzmanlar için erişilebilir hale getirir.
  3. Geniş Uyumluluk: Çok yönlü dağıtım seçenekleri için ONNX, TensorRT, CoreML ve TensorFlow dahil olmak üzere birden fazla dışa aktarma formatını destekler.

Explore further details in our introduction to YOLO11.

How can I deploy a YOLO11 model on specialized hardware using TF GraphDef?

Once a YOLO11 model is exported to TF GraphDef format, you can deploy it across various specialized hardware platforms. Typical deployment scenarios include:

  • TensorFlow Sunum: Üretim ortamlarında ölçeklenebilir model dağıtımı için TensorFlow Serving'i kullanın. Model yönetimini ve verimli sunumu destekler.
  • Mobil Cihazlar: TF GraphDef modellerini mobil ve gömülü cihazlar için optimize edilmiş TensorFlow Lite'a dönüştürerek cihaz üzerinde çıkarım yapılmasını sağlayın.
  • Web Tarayıcıları: Web uygulamalarında istemci tarafı çıkarımı için TensorFlow.js kullanarak modelleri dağıtın.
  • Yapay Zeka Hızlandırıcıları: Hızlandırılmış çıkarım için TPU'lardan ve özel yapay zeka çiplerinden yararlanın.

Ayrıntılı bilgi için dağıtım seçenekleri bölümünü kontrol edin.

Where can I find solutions for common issues while exporting YOLO11 models?

For troubleshooting common issues with exporting YOLO11 models, Ultralytics provides comprehensive guides and resources. If you encounter problems during installation or model export, refer to:

These resources should help you resolve most issues related to YOLO11 model export and deployment.


📅 Created 6 months ago ✏️ Updated 6 days ago

Yorumlar