Экспорт моделей с Ultralytics YOLO

Введение

Конечная цель обучения модели - развернуть ее для применения в реальном мире. Режим экспорта в Ultralytics YOLOv8 предлагает универсальный набор опций для экспорта твоей обученной модели в различные форматы, что делает ее пригодной для развертывания на различных платформах и устройствах. Это исчерпывающее руководство призвано провести тебя через все нюансы экспорта моделей, показав, как добиться максимальной совместимости и производительности.

Смотри: Как экспортировать настраиваемую модель Ultralytics YOLOv8 и запустить живую интерференцию на веб-камере.

Почему стоит выбрать YOLOv8'Export Mode?

• Универсальность: Экспортируй в множество форматов, включая ONNX, TensorRT, CoreML и другие.
• Производительность: Ускорься в 5 раз до GPU с помощью TensorRT и в 3 раза до CPU с помощью ONNX или OpenVINO.
• Совместимость: Сделай свою модель универсальной для развертывания в многочисленных аппаратных и программных средах.
• Простота использования: простые CLI и Python API для быстрого и понятного экспорта моделей.

Ключевые особенности режима экспорта

Вот некоторые из выделяющихся функциональных возможностей:

• Экспорт в один клик: Простые команды для экспорта в разные форматы.
• Пакетный экспорт: Экспортируй модели, способные к пакетному анализу.
• Оптимизированный вывод: Экспортируемые модели оптимизированы для более быстрого вывода.
• Обучающие видео: Подробные руководства и обучающие материалы помогут тебе без проблем экспортировать.

Примеры использования

Экспортируй модель YOLOv8n в другой формат, например в ONNX или TensorRT. Полный список аргументов экспорта смотри в разделе "Аргументы" ниже.

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolov8n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Аргументы

В этой таблице подробно описаны конфигурации и опции, доступные для экспорта моделей YOLO в различные форматы. Эти настройки очень важны для оптимизации производительности, размера и совместимости экспортированной модели на различных платформах и в различных средах. Правильная настройка гарантирует, что модель будет готова к внедрению в предполагаемое приложение с оптимальной эффективностью.

Настройка этих параметров позволяет подстроить процесс экспорта под конкретные требования, такие как среда развертывания, аппаратные ограничения и целевые показатели производительности. Выбор подходящего формата и настроек важен для достижения оптимального баланса между размером модели, скоростью и точностью.

Форматы экспорта

Доступные форматы экспорта YOLOv8 приведены в таблице ниже. Ты можешь экспортировать в любой формат, используя format аргумент, то есть format='onnx' или format='engine'. Ты можешь предсказывать или проверять непосредственно на экспортированных моделях, то есть yolo predict model=yolov8n.onnx. Примеры использования будут показаны для твоей модели после завершения экспорта.

ВОПРОСЫ И ОТВЕТЫ

Как экспортировать модель YOLOv8 в формат ONNX ?

Экспортировать модель YOLOv8 в формат ONNX проще всего с помощью Ultralytics. Он предоставляет методы Python и CLI для экспорта моделей.

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolov8n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Более подробную информацию об этом процессе, включая дополнительные опции, такие как работа с различными размерами входных данных, можно найти в ONNX раздел.

В чем преимущества использования TensorRT для экспорта моделей?

Использование TensorRT для экспорта моделей дает значительный прирост производительности. Модели YOLOv8 , экспортированные в TensorRT , ускоряются в 5 раз по сравнению с GPU , что делает их идеальными для приложений, работающих с выводами в реальном времени.

• Универсальность: Оптимизируй модели под конкретную аппаратную установку.
• Скорость: Добейся более быстрого вывода за счет продвинутых оптимизаций.
• Совместимость: Плавно интегрируйся с оборудованием NVIDIA .

Чтобы узнать больше об интеграции TensorRT, смотри TensorRT руководство по интеграции.

Как включить квантование INT8 при экспорте модели YOLOv8 ?

Квантование INT8 - отличный способ сжать модель и ускорить вывод, особенно на edge-устройствах. Вот как ты можешь включить квантование INT8:

from ultralytics import YOLO

model = YOLO("yolov8n.pt")  # Load a model
model.export(format="onnx", int8=True)

yolo export model=yolov8n.pt format=onnx int8=True   # export model with INT8 quantization

Квантование INT8 можно применить к различным форматам, например TensorRT и CoreML. Более подробную информацию можно найти в разделе " Экспорт ".

Почему при экспорте моделей важен динамический размер входных данных?

Динамический размер входных данных позволяет экспортируемой модели работать с различными размерами изображений, обеспечивая гибкость и оптимизируя эффективность обработки для различных случаев использования. При экспорте в такие форматы, как ONNX или TensorRT, включение динамического входного размера гарантирует, что модель сможет легко адаптироваться к различным входным формам.

Чтобы включить эту функцию, используй dynamic=True флаг во время экспорта:

from ultralytics import YOLO

model = YOLO("yolov8n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolov8n.pt format=onnx dynamic=True

За дополнительным контекстом обращайся к настройке динамического размера входа.

Какие основные экспортные аргументы следует учитывать для оптимизации работы модели?

Понимание и настройка аргументов экспорта очень важны для оптимизации работы модели:

• format: Целевой формат экспортируемой модели (например, onnx, torchscript, tensorflow).
• imgsz: Желаемый размер изображения для входа в модель (например, 640 или (height, width)).
• half: Включает квантование FP16, уменьшая размер модели и потенциально ускоряя вывод.
• optimize: Применяет специальные оптимизации для мобильных или ограниченных условий.
• int8: Включает квантование INT8, что очень полезно для пограничных развертываний.

Подробный список и объяснения всех аргументов экспорта ты найдешь в разделе " Аргументы экспорта".

Комментарии