Экспорт моделей с Ultralytics YOLO

Введение

Конечной целью обучения модели является ее использование в реальных приложениях. Режим экспорта в Ultralytics YOLO11 предлагает широкий спектр возможностей для экспорта обученной модели в различные форматы, что делает ее пригодной для использования на различных платформах и устройствах. Это подробное руководство поможет вам разобраться в тонкостях экспорта моделей и покажет, как добиться максимальной совместимости и производительности.

Смотреть: Как экспортировать обученную модель Ultralytics YOLO и запустить ее в реальном времени на веб-камере.

Почему стоит выбрать режим экспорта YOLO11?

• Универсальность: Экспорт в различные форматы, включая ONNX, TensorRT, CoreMLи многое другое.
• Производительность: Ускорение до 5 раз GPU с помощью TensorRT и до 3 раз на CPU с помощью ONNX или OpenVINO.
• Совместимость: Сделайте свою модель универсальной для развертывания в различных аппаратных и программных средах.
• Простота использования: простые CLI и Python API для быстрого и удобного экспорта моделей.

Ключевые особенности режима экспорта

Вот некоторые из наиболее ярких функциональных возможностей:

• Экспорт в один клик: Простые команды для экспорта в различные форматы.
• Пакетный экспорт: Экспорт моделей, поддерживающих пакетный анализ.
• Оптимизированный вывод: Экспортируемые модели оптимизированы для ускорения вывода.
• Обучающие видеоролики: Подробные руководства и учебные пособия для беспроблемного экспорта.

Примеры использования

Экспортируйте модель YOLO11n в другой формат, например ONNX или TensorRT. Полный список аргументов экспорта см. в разделе "Аргументы" ниже.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Аргументы

В этой таблице подробно описаны конфигурации и опции, доступные для экспорта моделей YOLO в различные форматы. Эти настройки важны для оптимизации производительности, размера и совместимости экспортированной модели на различных платформах и в различных средах. Правильная настройка гарантирует, что модель будет готова к развертыванию в предполагаемом приложении с оптимальной эффективностью.

Настройка этих параметров позволяет адаптировать процесс экспорта к конкретным требованиям, таким как среда развертывания, аппаратные ограничения и целевые показатели производительности. Выбор подходящего формата и настроек необходим для достижения оптимального баланса между размером модели, скоростью и точностью.

Форматы экспорта

Доступные форматы экспорта YOLO11 приведены в таблице ниже. Вы можете экспортировать в любой формат с помощью кнопки format аргумент, т.е. format='onnx' или format='engine'. Вы можете прогнозировать или проверять непосредственно на экспортированных моделях, т.е. yolo predict model=yolo11n.onnx. Примеры использования показаны для вашей модели после завершения экспорта.

ЧАСТО ЗАДАВАЕМЫЕ ВОПРОСЫ

Как экспортировать модель YOLO11 в формат ONNX ?

Экспорт модели YOLO11 в формат ONNX легко выполняется с помощью Ultralytics. Он предоставляет методы Python и CLI для экспорта моделей.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Более подробную информацию о процессе, включая дополнительные опции, такие как обработка различных размеров входных данных, см. в руководстве по интеграцииONNX .

Каковы преимущества использования TensorRT для экспорта моделей?

Использование TensorRT для экспорта моделей дает значительный прирост производительности. Модели, экспортированные в TensorRT с YOLO11 , ускоряются в 5 раз по сравнению с GPU , что делает их идеальными для приложений, работающих с выводами в реальном времени.

• Универсальность: Оптимизируйте модели под конкретную аппаратную конфигурацию.
• Скорость: Достигайте более быстрого вывода благодаря расширенным оптимизациям.
• Совместимость: Легко интегрируется с оборудованием NVIDIA .

Чтобы узнать больше об интеграции TensorRT, обратитесь к руководству по интеграцииTensorRT .

Как включить квантование INT8 при экспорте модели YOLO11 ?

Квантование INT8 - отличный способ сжать модель и ускорить вывод, особенно на граничных устройствах. Вот как можно включить квантование INT8:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")  # Load a model
model.export(format="engine", int8=True)

yolo export model=yolo11n.pt format=engine int8=True # export TensorRT model with INT8 quantization

Квантование INT8 может быть применено к различным форматам, таким как TensorRT, OpenVINO, и CoreML. Для получения оптимальных результатов квантования обеспечьте репрезентативность набор данных используя data параметр.

Почему при экспорте моделей важен размер динамического ввода?

Динамический размер входных данных позволяет экспортируемой модели работать с изображениями разных размеров, обеспечивая гибкость и оптимизируя эффективность обработки для различных случаев использования. При экспорте в такие форматы, как ONNX или TensorRTвключение динамического размера входных данных гарантирует, что модель сможет легко адаптироваться к различным формам входных данных.

Чтобы включить эту функцию, используйте dynamic=True флаг при экспорте:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolo11n.pt format=onnx dynamic=True

Динамическое изменение размеров входных данных особенно полезно в приложениях, где размеры входных данных могут меняться, например, при обработке видео или изображений из разных источников.

Какие ключевые экспортные аргументы следует учитывать для оптимизации работы модели?

Понимание и настройка аргументов экспорта очень важны для оптимизации работы модели:

• format: Целевой формат экспортируемой модели (например, onnx, torchscript, tensorflow).
• imgsz: Желаемый размер изображения для входных данных модели (например, 640 или (height, width)).
• half: Включает квантование FP16, уменьшая размер модели и потенциально ускоряя вывод.
• optimize: Применяет специальные оптимизации для мобильных или ограниченных сред.
• int8: Включает квантование INT8, что очень полезно для краевой ИИ развертывания.

Для развертывания на конкретных аппаратных платформах используйте специализированные форматы экспорта, например TensorRT для графических процессоров NVIDIA , CoreML для устройств Apple или Edge TPU для устройств Google Coral.

📅 Создано 1 год назад ✏️ Обновлено 3 дня назад

Комментарии