Перейти к содержанию

Как экспортировать из YOLO26 в TF GraphDef для развертывания

При развертывании передовых моделей компьютерного зрения, таких как YOLO26, в различных средах вы можете столкнуться с проблемами совместимости. TensorFlow GraphDef от Google, или TF GraphDef, предлагает решение, предоставляя сериализованное, платформенно-независимое представление вашей модели. Используя формат модели TF GraphDef, вы можете развернуть свою модель YOLO26 в средах, где полная экосистема TensorFlow может быть недоступна, например, на мобильных устройствах или специализированном оборудовании.

В этом руководстве мы пошагово расскажем, как экспортировать ваши модели Ultralytics YOLO26 в формат модели TF GraphDef. Преобразовав свою модель, вы сможете оптимизировать развертывание и использовать возможности компьютерного зрения YOLO26 в более широком спектре приложений и платформ.

Формат сериализацииGraphDef TensorFlow GraphDef

Зачем экспортировать в TF GraphDef?

TF GraphDef — это мощный компонент экосистемы TensorFlow, разработанный Google. Его можно использовать для оптимизации и развертывания моделей, таких как YOLO26. Экспорт в TF GraphDef позволяет переносить модели из исследований в реальные приложения. Он позволяет моделям работать в средах без полной платформы TensorFlow.

Формат GraphDef представляет модель в виде сериализованного вычислительного графа. Это позволяет использовать различные методы оптимизации, такие как свертка констант, квантование и преобразование графов. Эти оптимизации обеспечивают эффективное выполнение, снижение использования памяти и более высокую скорость инференса.

Модели GraphDef могут использовать аппаратные ускорители, такие как GPU, TPU и чипы ИИ, открывая значительный прирост производительности для конвейера вывода YOLO26. Формат TF GraphDef создает самодостаточный пакет с моделью и ее зависимостями, упрощая развертывание и интеграцию в различные системы.

Ключевые особенности моделей TF GraphDef

TF GraphDef предлагает отличительные функции для оптимизации развертывания моделей и оптимизации.

Вот взгляд на его ключевые характеристики:

  • Сериализация модели: TF GraphDef предоставляет способ сериализации и хранения моделей TensorFlow в платформонезависимом формате. Это сериализованное представление позволяет загружать и выполнять ваши модели без исходной кодовой базы python, что упрощает развертывание.

  • Оптимизация графов: TF GraphDef позволяет оптимизировать вычислительные графы. Эти оптимизации могут повысить производительность за счет оптимизации потока выполнения, уменьшения избыточности и адаптации операций к конкретному оборудованию.

  • Гибкость развертывания: Модели, экспортированные в формат GraphDef, можно использовать в различных средах, включая устройства с ограниченными ресурсами, веб-браузеры и системы со специализированным оборудованием. Это открывает возможности для более широкого развертывания ваших моделей TensorFlow.

  • Ориентация на Production: GraphDef разработан для развертывания в production-среде. Он поддерживает эффективное выполнение, функции сериализации и оптимизации, которые соответствуют реальным сценариям использования.

Варианты развертывания с TF GraphDef

Прежде чем мы углубимся в процесс экспорта моделей YOLO26 в TF GraphDef, давайте рассмотрим некоторые типичные сценарии развертывания, где используется этот формат.

Вот как можно эффективно развернуть TF GraphDef на различных платформах.

  • TensorFlow Serving: Этот фреймворк предназначен для развертывания моделей TensorFlow в производственных средах. TensorFlow Serving предлагает управление моделями, версионность и инфраструктуру для эффективного обслуживания моделей в масштабе. Это простой способ интеграции ваших моделей на основе GraphDef в производственные веб-сервисы или API.

  • Мобильные и встраиваемые устройства: С помощью таких инструментов, как TensorFlow Lite, вы можете преобразовывать TF GraphDef модели в форматы, оптимизированные для смартфонов, планшетов и различных встраиваемых устройств. Ваши модели затем можно использовать для логического вывода на устройстве, где выполнение происходит локально, что часто обеспечивает повышение производительности и возможности автономной работы.

  • Веб-браузеры:TensorFlow.js позволяет развертывать модели TF GraphDef непосредственно в веб-браузерах. Это открывает путь для приложений обнаружения объектов в реальном времени, работающих на стороне клиента, используя возможности YOLO26 через JavaScript.

  • Специализированное оборудование: Независимая от платформы природа TF GraphDef позволяет ей быть нацеленной на пользовательское оборудование, такое как ускорители и TPU (блоки обработки тензоров). Эти устройства могут обеспечить преимущества в производительности для вычислительно интенсивных моделей.

Экспорт моделей YOLO26 в TF GraphDef

Вы можете преобразовать свою модель обнаружения объектов YOLO26 в формат TF GraphDef, который совместим с различными системами, для повышения ее производительности на разных платформах.

Установка

Чтобы установить необходимый пакет, выполните:

Установка

# Install the required package for YOLO26
pip install ultralytics

Для получения подробных инструкций и рекомендаций по процессу установки ознакомьтесь с нашим руководством по установке Ultralytics. Если при установке необходимых пакетов для YOLO26 вы столкнетесь с трудностями, обратитесь к нашему руководству по распространенным проблемам для поиска решений и советов.

Использование

Все модели Ultralytics YOLO26 изначально поддерживают экспорт, что упрощает их интеграцию в предпочитаемый вами рабочий процесс развертывания. Вы можете просмотреть полный список поддерживаемых форматов экспорта и параметров конфигурации, чтобы выбрать наилучшую настройку для вашего приложения.

Использование

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TF GraphDef format
model.export(format="pb")  # creates 'yolo26n.pb'

# Load the exported TF GraphDef model
tf_graphdef_model = YOLO("yolo26n.pb")

# Run inference
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO26n PyTorch model to TF GraphDef format
yolo export model=yolo26n.pt format=pb # creates 'yolo26n.pb'

# Run inference with the exported model
yolo predict model='yolo26n.pb' source='https://ultralytics.com/images/bus.jpg'

Аргументы экспорта

АргументТипПо умолчаниюОписание
formatstr'pb'Целевой формат для экспортируемой модели, определяющий совместимость с различными средами развертывания.
imgszint или tuple640Желаемый размер изображения для ввода модели. Может быть целым числом для квадратных изображений или кортежем (height, width) для конкретных размеров.
batchint1Указывает размер пакета для модели экспорта или максимальное количество изображений, которые экспортируемая модель будет обрабатывать одновременно в режиме predict режиме.
devicestrNoneУказывает устройство для экспорта: CPU (device=cpu), MPS для Apple silicon (device=mps).

Для получения более подробной информации о процессе экспорта посетите страницу документации Ultralytics по экспорту.

Развертывание экспортированных моделей YOLO26 TF GraphDef

После того как вы экспортировали свою модель YOLO26 в формат TF GraphDef, следующим шагом является развертывание. Основным и рекомендуемым первым шагом для запуска модели TF GraphDef является использование метода YOLO("model.pb"), как было показано ранее в фрагменте кода использования.

Однако для получения дополнительной информации о развертывании ваших моделей TF GraphDef ознакомьтесь со следующими ресурсами:

  • TensorFlow Serving: Руководство по TensorFlow Serving, которое учит, как эффективно развертывать и обслуживать модели машинного обучения в производственной среде.

  • TensorFlow Lite: На этой странице описывается, как преобразовать модели машинного обучения в формат, оптимизированный для логического вывода на устройстве с помощью TensorFlow Lite.

  • TensorFlow.js: Руководство по преобразованию моделей, которое учит, как преобразовать модели TensorFlow или Keras в формат TensorFlow.js для использования в веб-приложениях.

Обзор

В этом руководстве мы рассмотрели, как экспортировать модели Ultralytics YOLO26 в формат TF GraphDef. Таким образом, вы можете гибко развертывать свои оптимизированные модели YOLO26 в различных средах.

Для получения более подробной информации об использовании посетите официальную документацию TF GraphDef.

Для получения дополнительной информации об интеграции Ultralytics YOLO26 с другими платформами и фреймворками см. нашу страницу руководства по интеграции.

Часто задаваемые вопросы

Как экспортировать модель YOLO26 в формат TF GraphDef?

Модели Ultralytics YOLO26 могут быть легко экспортированы в формат TensorFlow GraphDef (TF GraphDef). Этот формат обеспечивает сериализованное, платформенно-независимое представление модели, идеально подходящее для развертывания в различных средах, таких как мобильные устройства и веб. Чтобы экспортировать модель YOLO26 в TF GraphDef, выполните следующие шаги:

Использование

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TF GraphDef format
model.export(format="pb")  # creates 'yolo26n.pb'

# Load the exported TF GraphDef model
tf_graphdef_model = YOLO("yolo26n.pb")

# Run inference
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO26n PyTorch model to TF GraphDef format
yolo export model="yolo26n.pt" format="pb" # creates 'yolo26n.pb'

# Run inference with the exported model
yolo predict model="yolo26n.pb" source="https://ultralytics.com/images/bus.jpg"

Для получения дополнительной информации о различных вариантах экспорта посетите документацию Ultralytics по экспорту моделей.

Каковы преимущества использования TF GraphDef для развертывания моделей YOLO26?

Экспорт моделей YOLO26 в формат TF GraphDef предлагает множество преимуществ, в том числе:

  1. Независимость от платформы: TF GraphDef предоставляет платформо-независимый формат, позволяющий развертывать модели в различных средах, включая мобильные и веб-браузеры.
  2. Оптимизации: Формат обеспечивает несколько оптимизаций, таких как свертка констант, квантование и преобразования графов, которые повышают эффективность выполнения и снижают использование памяти.
  3. Аппаратное ускорение: Модели в формате TF GraphDef могут использовать аппаратные ускорители, такие как GPU, TPU и AI-чипы, для повышения производительности.

Узнайте больше о преимуществах в разделе TF GraphDef нашей документации.

Почему я должен использовать Ultralytics YOLO26 вместо других моделей обнаружения объектов?

Ultralytics YOLO26 предлагает многочисленные преимущества по сравнению с другими моделями, такими как YOLOv5 и YOLOv7. Некоторые ключевые преимущества включают:

  1. Передовая производительность: YOLO26 обеспечивает исключительную скорость и точность для обнаружения объектов, сегментации и классификации в реальном времени.
  2. Простота использования: Имеет удобный API для обучения, проверки, прогнозирования и экспорта моделей, что делает его доступным как для начинающих, так и для экспертов.
  3. Широкая совместимость: Поддерживает несколько форматов экспорта, включая ONNX, TensorRT, CoreML и TensorFlow, для универсальных вариантов развертывания.

Более подробную информацию можно найти в нашем введении в YOLO26.

Как развернуть модель YOLO26 на специализированном оборудовании с использованием TF GraphDef?

После экспорта модели YOLO26 в формат TF GraphDef ее можно развертывать на различных специализированных аппаратных платформах. Типичные сценарии развертывания включают:

  • TensorFlow Serving: Используйте TensorFlow Serving для масштабируемого развертывания моделей в производственных средах. Он поддерживает управление моделями и эффективное обслуживание.
  • Мобильные устройства: Преобразуйте модели TF GraphDef в TensorFlow Lite, оптимизированные для мобильных и встроенных устройств, обеспечивая вывод на устройстве.
  • Веб-браузеры: Развертывайте модели с использованием TensorFlow.js для логического вывода на стороне клиента в веб-приложениях.
  • Ускорители ИИ: Используйте TPU и специализированные ИИ-чипы для ускоренного инференса.

Подробную информацию см. в разделе варианты развертывания.

Где найти решения распространенных проблем при экспорте моделей YOLO26?

Для устранения распространенных проблем с экспортом моделей YOLO26 Ultralytics предоставляет исчерпывающие руководства и ресурсы. Если вы столкнулись с проблемами во время установки или экспорта модели, обратитесь к:

Эти ресурсы должны помочь вам решить большинство проблем, связанных с экспортом и развертыванием моделей YOLO26.



📅 Создано 1 год назад ✏️ Обновлено 2 дней назад
glenn-jocherlakshanthadpderrengerlakshanthadUltralyticsAssistantMatthewNoyceRizwanMunawarRizwanMunawarBurhan-Qabirami-vina

Комментарии