Экспорт моделей с Ultralytics YOLO

Введение

Конечная цель обучения модели — развернуть ее для реальных приложений. Режим экспорта в Ultralytics YOLO11 предлагает широкий спектр опций для экспорта обученной модели в различные форматы, что позволяет развертывать ее на различных платформах и устройствах. Это подробное руководство призвано познакомить вас с нюансами экспорта моделей, демонстрируя, как добиться максимальной совместимости и производительности.

Смотреть: Как экспортировать пользовательскую обученную модель Ultralytics YOLO и запустить логический вывод в реальном времени на веб-камере.

Почему стоит выбрать режим экспорта YOLO11?

• Универсальность: Экспорт во множество форматов, включая ONNX, TensorRT, CoreML и другие.
• Производительность: Получите до 5-кратного ускорения GPU с TensorRT и 3-кратного ускорения CPU с ONNX или OpenVINO.
• Совместимость: Сделайте свою модель универсально развертываемой в многочисленных аппаратных и программных средах.
• Простота использования: Простой CLI и Python API для быстрой и понятной экспорт модели.

Основные характеристики режима экспорта

Вот некоторые из выдающихся функциональных возможностей:

• Экспорт в один клик: Простые команды для экспорта в различные форматы.
• Пакетный экспорт: Экспорт моделей, поддерживающих пакетный вывод.
• Оптимизированный вывод: Экспортированные модели оптимизированы для более быстрого времени вывода.
• Обучающие видео: Подробные руководства и учебные пособия для упрощения процесса экспорта.

Примеры использования

Экспортируйте модель YOLO11n в другой формат, например ONNX или TensorRT. Полный список аргументов экспорта см. в разделе «Аргументы» ниже.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Аргументы

В этой таблице подробно описаны конфигурации и параметры, доступные для экспорта моделей YOLO в различные форматы. Эти настройки имеют решающее значение для оптимизации производительности, размера и совместимости экспортируемой модели на различных платформах и в различных средах. Правильная конфигурация гарантирует, что модель готова к развертыванию в предполагаемом приложении с оптимальной эффективностью.

Настройка этих параметров позволяет адаптировать процесс экспорта под конкретные требования, такие как среда развертывания, аппаратные ограничения и целевые показатели производительности. Выбор подходящего формата и настроек имеет важное значение для достижения наилучшего баланса между размером модели, скоростью и точностью.

Форматы экспорта

Доступные форматы экспорта YOLO11 указаны в таблице ниже. Вы можете экспортировать в любой формат, используя format аргумент, например: format='onnx' или format='engine'. Вы можете прогнозировать или проверять непосредственно на экспортированных моделях, например: yolo predict model=yolo11n.onnx. Примеры использования отображаются для вашей модели после завершения экспорта.

Часто задаваемые вопросы

Как экспортировать модель YOLO11 в формат ONNX?

Экспорт модели YOLO11 в формат ONNX с помощью Ultralytics — простая задача. Ultralytics предоставляет методы python и CLI для экспорта моделей.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Для получения более подробной информации о процессе, включая расширенные параметры, такие как обработка различных размеров входных данных, обратитесь к руководству по интеграции ONNX.

Каковы преимущества использования TensorRT для экспорта моделей?

Использование TensorRT для экспорта модели обеспечивает значительное повышение производительности. Модели YOLO11, экспортированные в TensorRT, могут достигать 5-кратного ускорения на GPU, что делает его идеальным для приложений логического вывода в реальном времени.

• Универсальность: Оптимизируйте модели для конкретной аппаратной конфигурации.
• Скорость: Добейтесь более быстрого логического вывода благодаря расширенным оптимизациям.
• Совместимость: Обеспечьте плавную интеграцию с оборудованием NVIDIA.

Чтобы узнать больше об интеграции TensorRT, см. руководство по интеграции TensorRT.

Как включить квантование INT8 при экспорте моей модели YOLO11?

Квантование INT8 — отличный способ сжать модель и ускорить логический вывод, особенно на периферийных устройствах. Вот как можно включить квантование INT8:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")  # Load a model
model.export(format="engine", int8=True)

yolo export model=yolo11n.pt format=engine int8=True # export TensorRT model with INT8 quantization

Квантование INT8 может быть применено к различным форматам, таким как TensorRT, OpenVINOи CoreML. Для достижения оптимальных результатов квантования предоставьте репрезентативный dataset использование data параметр.

Почему динамический размер входных данных важен при экспорте моделей?

Динамический размер входных данных позволяет экспортированной модели обрабатывать различные размеры изображений, обеспечивая гибкость и оптимизируя эффективность обработки для различных вариантов использования. При экспорте в такие форматы, как ONNX или TensorRT, включение динамического размера входных данных гарантирует, что модель сможет беспрепятственно адаптироваться к различным формам входных данных.

Чтобы включить эту функцию, используйте флаг dynamic=True во время экспорта:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolo11n.pt format=onnx dynamic=True

Динамическое определение размера входных данных особенно полезно для приложений, в которых размеры входных данных могут варьироваться, например, при обработке видео или при работе с изображениями из разных источников.

Какие основные аргументы экспорта следует учитывать для оптимизации производительности модели?

Понимание и настройка аргументов экспорта имеют решающее значение для оптимизации производительности модели:

• format: Целевой формат для экспортируемой модели (например, onnx, torchscript, tensorflow).
• imgsz: Желаемый размер изображения для ввода модели (например, 640 или (height, width)).
• half: Включает квантование FP16, уменьшая размер модели и потенциально ускоряя логический вывод.
• optimize: Применяет специальные оптимизации для мобильных или ограниченных сред.
• int8: Включает квантование INT8, что очень полезно для периферийный AI развертывания.

Для развертывания на конкретных аппаратных платформах рассмотрите возможность использования специализированных форматов экспорта, таких как TensorRT для NVIDIA GPU, CoreML для устройств Apple или Edge TPU для устройств Google Coral.

📅 Создано 2 года назад ✏️ Обновлено 8 месяцев назад

Комментарии