Как экспортировать YOLO26 в TF GraphDef для развертывания
При развертывании моделей компьютерного зрения, таких как YOLO26, в разных средах могут возникнуть проблемы совместимости. Решением может стать GraphDef от Google — сериализованное, платформонезависимое представление модели. Используя формат TF GraphDef, ты можешь развернуть модель YOLO26 в средах, где недоступна полноценная экосистема TensorFlow, например на мобильных устройствах или специализированном оборудовании.
В этом руководстве шаг за шагом описан экспорт моделей Ultralytics YOLO26 в формат TF GraphDef. Преобразование упрощает развертывание и позволяет использовать возможности компьютерного зрения YOLO26 в более широком спектре приложений и на различных платформах.
Зачем экспортировать модель в TF GraphDef?#
TF GraphDef — ключевой компонент экосистемы TensorFlow, разработанной Google. Его можно использовать для оптимизации и развертывания таких моделей, как YOLO26. Экспорт в TF GraphDef позволяет переносить модели из исследовательских проектов в реальные приложения. Модели могут работать в средах без полной версии TensorFlow.
В формате GraphDef модель представлена в виде сериализованного вычислительного графа. Это позволяет применять различные методы оптимизации, такие как свёртка констант, квантование и преобразования графа. Эти оптимизации повышают эффективность выполнения, сокращают использование памяти и ускоряют инференс.
Модели GraphDef могут использовать аппаратные ускорители, например GPU, TPU и ИИ-чипы, чтобы ускорить процесс инференса YOLO26. Формат TF GraphDef создаёт автономный пакет с моделью и её зависимостями, упрощая развертывание и интеграцию в различные системы.
Ключевые особенности моделей TF GraphDef#
TF GraphDef предлагает ряд возможностей для упрощения развертывания моделей и их оптимизации.
Рассмотрим основные характеристики:
-
Сериализация моделей: TF GraphDef позволяет сериализовать и хранить модели TensorFlow в платформонезависимом формате. Благодаря такому представлению ты можешь загружать и выполнять модели без исходной кодовой базы на Python, что упрощает развертывание.
-
Оптимизация графов: TF GraphDef позволяет оптимизировать вычислительные графы. Такие оптимизации могут повысить производительность за счет упрощения потока выполнения, устранения избыточности и адаптации операций к конкретному оборудованию.
-
Гибкость развертывания: модели, экспортированные в формат GraphDef, можно использовать в различных средах, включая устройства с ограниченными ресурсами, веб-браузеры и системы со специализированным оборудованием. Это открывает возможности для более широкого развертывания моделей TensorFlow.
-
Ориентация на эксплуатацию: GraphDef разработан для развертывания в производственной среде. Он поддерживает эффективное выполнение, сериализацию и оптимизации, рассчитанные на реальные сценарии использования.
Варианты развертывания с TF GraphDef#
Прежде чем экспортировать модели YOLO26 в TF GraphDef, рассмотрим типичные сценарии развертывания, в которых используется этот формат.
-
TensorFlow Serving: Эта платформа предназначена для развертывания моделей TensorFlow в производственных средах. TensorFlow Serving предоставляет средства управления моделями и их версиями, а также инфраструктуру для эффективного обслуживания моделей в больших масштабах. Она упрощает интеграцию моделей на основе GraphDef в производственные веб-сервисы или API.
-
Мобильные и встраиваемые устройства: С помощью таких инструментов, как LiteRT, можно преобразовать модели TF GraphDef в форматы, оптимизированные для смартфонов, планшетов и различных встраиваемых устройств. Затем модели можно использовать для инференса непосредственно на устройстве: обработка выполняется локально, что часто повышает производительность и позволяет работать без подключения к сети. Ultralytics также поддерживает прямой экспорт YOLO26 в LiteRT.
-
Веб-браузеры: TensorFlow.js позволяет развертывать модели TF GraphDef непосредственно в веб-браузерах. Он поддерживает работающие на стороне клиента приложения для обнаружения объектов в реальном времени, использующие YOLO26 через JavaScript.
-
Специализированное оборудование: независимость TF GraphDef от платформы позволяет использовать его с заказным оборудованием, например ускорителями и TPU (тензорными процессорами). Такие устройства могут повысить производительность вычислительно сложных моделей.
Поддерживаемые задачи#
Экспорт TF GraphDef поддерживает все семь задач Ultralytics. Семантическая сегментация и оценка глубины доступны только в YOLO26 — единственном семействе, в котором есть соответствующие головы.
| Задача | YOLOv8 | YOLO11 | YOLO26 |
|---|---|---|---|
| Обнаружение | ✅ | ✅ | ✅ |
| Сегментация | ✅ | ✅ | ✅ |
| Семантическая сегментация | ❌ | ❌ | ✅ |
| Глубина | ❌ | ❌ | ✅ |
| Классификация | ✅ | ✅ | ✅ |
| Оценка позы | ✅ | ✅ | ✅ |
| OBB | ✅ | ✅ | ✅ |
Экспорт моделей YOLO26 в TF GraphDef#
Ты можешь преобразовать модель YOLO26 в формат TF GraphDef, совместимый с различными системами, чтобы повысить ее производительность на разных платформах.
Установка#
Чтобы установить необходимый пакет, выполни команду:
# Install the required package for YOLO26
pip install ultralyticsПодробные инструкции и рекомендации по установке смотри в руководстве по установке Ultralytics. Если при установке пакетов, необходимых для YOLO26, возникнут сложности, решения и советы найдешь в руководстве по распространенным проблемам.
Экспорт TF GraphDef не поддерживается в macOS с Python 3.13 или новее.
Использование#
Все модели Ultralytics YOLO26 изначально поддерживают экспорт, поэтому их легко интегрировать в предпочтительный процесс развёртывания. Чтобы выбрать оптимальную конфигурацию для своего приложения, посмотри полный список поддерживаемых форматов экспорта и параметров конфигурации.
Формат TF GraphDef поддерживает режимы Экспорт, Предсказание и Валидация. Экспортируй модель, а затем загрузи экспортированную модель, чтобы запустить инференс или проверить её точность.
from ultralytics import YOLO
# Загрузи модель YOLO26
model = YOLO("yolo26n.pt")
# Экспортируй модель в формат TF GraphDef
model.export(format="pb") # создает 'yolo26n.pb'from ultralytics import YOLO
# Загрузи экспортированную модель TF GraphDef
model = YOLO("yolo26n.pb")
# Выполнить инференс
results = model("https://ultralytics.com/images/bus.jpg")from ultralytics import YOLO
# Загрузи экспортированную модель TF GraphDef
model = YOLO("yolo26n.pb")
# Проверить точность на наборе данных COCO8
metrics = model.val(data="coco8.yaml")Аргументы экспорта#
| Аргумент | Тип | По умолчанию | Описание |
|---|---|---|---|
format | str | 'pb' | Целевой формат экспортируемой модели, определяющий совместимость с различными средами развертывания. |
imgsz | int или tuple | 640 | Заданный размер изображения на входе модели. Можно указать целое число для квадратных изображений или кортеж (height, width) для конкретных размеров. |
quantize | int или str | None | Экспорт выполняется только в FP32. GraphDef не поддерживает преобразование точности в FP16, INT8 или W8A16 во время экспорта. |
opset | int | None | ONNX opset для промежуточного графа. Если параметр не задан, используется 18 (более низкий для PyTorch < 2.4, не выше установленной версии onnx); для RT-DETR используется 19. |
batch | int | 1 | Задаёт размер пакета изображений для инференса экспортированной модели или максимальное количество изображений, которые экспортированная модель будет обрабатывать одновременно в режиме predict. |
device | str | None | Указывает устройство для экспорта: CPU (device=cpu), MPS для Apple silicon (device=mps). |
Подробнее о процессе экспорта смотри на странице документации Ultralytics об экспорте.
Развертывание экспортированных моделей YOLO26 в TF GraphDef#
Экспортировав модель YOLO26 в формат TF GraphDef, переходи к её развертыванию. Для запуска модели TF GraphDef в первую очередь рекомендуется использовать метод YOLO("model.pb"), как показано ранее в примере кода.
Дополнительную информацию о развертывании моделей TF GraphDef см. в следующих материалах:
-
TensorFlow Serving: руководство по TensorFlow Serving, в котором рассказывается, как эффективно развертывать модели машинного обучения и обеспечивать их работу в производственной среде.
-
TensorFlow Lite: на этой странице описано, как преобразовывать модели машинного обучения в формат, оптимизированный для инференса на устройстве с TensorFlow Lite.
-
TensorFlow.js: руководство по преобразованию моделей, в котором рассказывается, как преобразовать модели TensorFlow или Keras в формат TensorFlow.js для веб-приложений.
Итоги#
В этом руководстве мы рассмотрели, как экспортировать модели Ultralytics YOLO26 в формат TF GraphDef. Это позволяет гибко развертывать оптимизированные модели YOLO26 в различных средах.
Подробнее об использовании читай в официальной документации TF GraphDef.
Часто задаваемые вопросы#
Модели Ultralytics YOLO26 можно экспортировать в формат TensorFlow GraphDef (TF GraphDef). Этот формат обеспечивает сериализованное, платформонезависимое представление модели и подходит для развертывания в различных средах, например в мобильных приложениях и интернете. Чтобы экспортировать модель YOLO26 в TF GraphDef, выполни следующие действия:
Использованиеfrom ultralytics import YOLO # Загрузи модель YOLO26 model = YOLO("yolo26n.pt") # Экспортируй модель в формат TF GraphDef model.export(format="pb") # создает 'yolo26n.pb' # Загрузи экспортированную модель TF GraphDef tf_graphdef_model = YOLO("yolo26n.pb") # Выполнить инференс results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")Подробнее о различных вариантах экспорта читай в документации Ultralytics по экспорту моделей.
Экспорт моделей YOLO26 в формат TF GraphDef дает несколько преимуществ:
- Независимость от платформы: TF GraphDef — платформонезависимый формат, позволяющий развертывать модели в различных средах, включая мобильные устройства и веб-браузеры.
- Оптимизация: формат позволяет применять различные оптимизации, например свертку констант, квантование и преобразования графа, которые повышают эффективность выполнения и снижают потребление памяти.
- Аппаратное ускорение: модели в формате TF GraphDef могут использовать аппаратные ускорители, такие как GPU, TPU и AI-чипы, для повышения производительности.
Подробнее о преимуществах читай в разделе TF GraphDef нашей документации.
Ultralytics YOLO26 дает множество преимуществ по сравнению с другими моделями, например YOLOv5 и YOLOv7. К основным преимуществам относятся:
- Передовые результаты: YOLO26 обеспечивает высокую скорость и точность при обнаружении объектов, сегментации экземпляров, семантической сегментации и классификации в реальном времени.
- Простота использования: удобный API для обучения, валидации, предсказания и экспорта моделей делает библиотеку доступной как для новичков, так и для экспертов.
- Широкая совместимость: поддерживается экспорт во множество форматов, включая ONNX, TensorRT, CoreML и TensorFlow, что обеспечивает гибкость при развертывании.
Подробнее читай в нашем введении в YOLO26.
После экспорта модели YOLO26 в формат TF GraphDef ее можно развернуть на различных платформах со специализированным оборудованием. Типичные сценарии развертывания:
- TensorFlow Serving: используй TensorFlow Serving для масштабируемого развертывания моделей в производственной среде. Он поддерживает управление моделями и их эффективную подачу.
- Мобильные устройства: преобразуй модели TF GraphDef в TensorFlow Lite, оптимизированный для мобильных и встраиваемых устройств, чтобы запускать инференс непосредственно на устройстве.
- Веб-браузеры: развертывай модели с помощью TensorFlow.js для инференса на стороне клиента в веб-приложениях.
- ИИ-ускорители: Используй TPU и специализированные ИИ-чипы для ускорения инференса.
Подробную информацию см. в разделе варианты развертывания.
Для решения распространенных проблем с экспортом моделей YOLO26 Ultralytics предлагает подробные руководства и материалы. Если при установке или экспорте модели возникнут проблемы, обратись к следующим ресурсам:
- Руководство по распространенным проблемам: содержит решения часто возникающих проблем.
- Руководство по установке: пошаговые инструкции по установке необходимых пакетов.
Эти материалы помогут решить большинство проблем, связанных с экспортом и развертыванием моделей YOLO26.
Комментарии
Задай вопрос, поделись результатами или помоги кому-нибудь.