Перейти к содержимому

Как экспортировать в формат PaddlePaddle из моделей YOLOv8

Преодолеть разрыв между разработкой и внедрением моделей компьютерного зрения в реальных сценариях с меняющимися условиями может быть непросто. PaddlePaddle делает этот процесс проще, уделяя особое внимание гибкости, производительности и возможности параллельной обработки в распределенных средах. Это значит, что ты сможешь использовать свои модели компьютерного зрения YOLOv8 на самых разных устройствах и платформах, от смартфонов до облачных серверов.

Возможность экспорта в формат модели PaddlePaddle позволяет тебе оптимизировать свои Ultralytics YOLOv8PaddlePaddle . PaddlePaddle известен тем, что облегчает промышленное внедрение и является хорошим выбором для развертывания приложений компьютерного зрения в реальных условиях в различных областях.

Почему тебе стоит экспортировать на PaddlePaddle?

PaddlePaddle Логотип

Разработана компанией Baidu, PaddlePaddle(PArallel Distributed Deep LEarning) - это первая китайская платформа глубокого обучения с открытым исходным кодом. В отличие от некоторых фреймворков, созданных в основном для исследований, PaddlePaddle ставит во главу угла простоту использования и плавную интеграцию в различные отрасли.

Он предлагает инструменты и ресурсы, схожие с популярными фреймворками вроде TensorFlow и PyTorch, что делает его доступным для разработчиков любого уровня опыта. Большое сообщество разработчиков PaddlePaddle, насчитывающее более 4,77 миллиона человек, помогает создавать и внедрять ИИ-приложения - от фермерских хозяйств и заводов до предприятий сферы услуг.

Экспортировав свои модели Ultralytics YOLOv8 в формат PaddlePaddle, ты сможешь воспользоваться преимуществами PaddlePaddle в оптимизации производительности. PaddlePaddle ставит во главу угла эффективное выполнение моделей и сокращение использования памяти. В результате твои модели YOLOv8 потенциально могут достичь еще большей производительности, обеспечивая первоклассные результаты в практических сценариях.

Ключевые особенности моделей PaddlePaddle

Модели PaddlePaddle обладают целым рядом ключевых особенностей, которые способствуют их гибкости, производительности и масштабируемости в различных сценариях развертывания:

  • Dynamic-to-Static Graph: PaddlePaddle поддерживает компиляцию динамического графа в статический, при которой модели могут быть преобразованы в статический вычислительный граф. Это позволяет оптимизировать работу, что уменьшает накладные расходы во время выполнения и повышает производительность вычислений.

  • Слияние операторов: PaddlePaddle, как и TensorRT, использует слияние операторов для оптимизации вычислений и снижения накладных расходов. Фреймворк минимизирует передачу памяти и вычислительные шаги за счет слияния совместимых операций, что приводит к более быстрому выводу.

  • Квантование: PaddlePaddle поддерживает техники квантования, включая квантование после обучения и обучение с учетом квантования. Эти техники позволяют использовать представления данных с более низкой точностью, эффективно повышая производительность и уменьшая размер модели.

Варианты развертывания в PaddlePaddle

Прежде чем погрузиться в код для экспорта моделей YOLOv8 в PaddlePaddle, давай рассмотрим различные сценарии развертывания, в которых модели PaddlePaddle превосходят все остальные.

PaddlePaddle предлагает целый ряд вариантов, каждый из которых отличается балансом простоты использования, гибкости и производительности:

  • Paddle Serving: Этот фреймворк упрощает развертывание моделей PaddlePaddle в виде высокопроизводительных RESTful API. Paddle Serving идеально подходит для производственных сред, предоставляя такие возможности, как версионирование моделей, онлайн-тестирование A/B и масштабируемость для обработки больших объемов запросов.

  • Paddle Inference API: Paddle Inference API дает тебе низкоуровневый контроль над выполнением модели. Этот вариант хорошо подходит для сценариев, когда тебе нужно плотно интегрировать модель в пользовательское приложение или оптимизировать производительность для конкретного оборудования.

  • Paddle Lite: Paddle Lite предназначен для развертывания на мобильных и встраиваемых устройствах, где ресурсы ограничены. Он оптимизирует модели для меньших размеров и более быстрого вывода на ARM CPU, GPU и другом специализированном оборудовании.

  • Paddle.js: Paddle.js позволяет тебе разворачивать модели PaddlePaddle прямо в веб-браузерах. Paddle.js может либо загружать предварительно обученную модель, либо преобразовывать модель из paddle-hub с помощью инструментов преобразования моделей, предоставляемых Paddle.js. Он может работать в браузерах, поддерживающих WebGL/WebGPU/WebAssembly.

Экспорт в PaddlePaddle: Преобразование твоей модели YOLOv8

Преобразование моделей YOLOv8 в формат PaddlePaddle может повысить гибкость исполнения и оптимизировать производительность для различных сценариев развертывания.

Установка

Чтобы установить нужный пакет, выполни:

Установка

# Install the required package for YOLOv8
pip install ultralytics

Для получения подробных инструкций и лучших практик, связанных с процессом установки, ознакомься с нашим руководством по установкеUltralytics . Во время установки необходимых пакетов для YOLOv8, если у тебя возникнут какие-либо трудности, обратись к нашему руководству по общим проблемам, чтобы найти решения и советы.

Использование

Прежде чем погрузиться в инструкцию по использованию, важно отметить, что, хотя все моделиUltralytics YOLOv8 доступны для экспорта, ты можешь убедиться, что выбранная тобой модель поддерживает функцию экспорта, здесь.

Использование

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to PaddlePaddle format
model.export(format='paddle')  # creates '/yolov8n_paddle_model'

# Load the exported PaddlePaddle model
paddle_model = YOLO('./yolov8n_paddle_model')

# Run inference
results = paddle_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to PaddlePaddle format
yolo export model=yolov8n.pt format=paddle  # creates '/yolov8n_paddle_model'

# Run inference with the exported model
yolo predict model='./yolov8n_paddle_model' source='https://ultralytics.com/images/bus.jpg'

Более подробно о поддерживаемых вариантах экспорта можно узнать на странице документацииUltralytics , посвященной вариантам развертывания.

Развертывание экспортированных YOLOv8 PaddlePaddle моделей

После успешного экспорта твоих моделей Ultralytics YOLOv8 в формат PaddlePaddle ты можешь приступить к их развертыванию. Основным и рекомендуемым первым шагом для запуска модели в формате PaddlePaddle является использование метода YOLO("./model_paddle_model"), как описано в предыдущем фрагменте кода.

Однако для получения подробных инструкций по развертыванию твоих моделей PaddlePaddle в различных других условиях, взгляни на следующие ресурсы:

  • Сервировка весла: Узнай, как развернуть свои модели PaddlePaddle в виде перфоманс-сервисов с помощью Paddle Serving.

  • Paddle Lite: Узнай, как оптимизировать и разворачивать модели на мобильных и встраиваемых устройствах с помощью Paddle Lite.

  • Paddle.js: Узнай, как запускать модели PaddlePaddle в веб-браузерах для клиентского ИИ с помощью Paddle.js.

Резюме

В этом руководстве мы рассмотрели процесс экспорта моделей Ultralytics YOLOv8 в формат PaddlePaddle. Следуя этим шагам, ты сможешь использовать сильные стороны PaddlePaddle в различных сценариях развертывания, оптимизируя свои модели для различных аппаратных и программных сред.

Более подробную информацию об использовании ты найдешь в официальной документацииPaddlePaddle .

Хочешь изучить больше способов интеграции твоих моделей Ultralytics YOLOv8 ? На странице нашего руководства по интеграции рассматриваются различные варианты, снабжая тебя ценными ресурсами и знаниями.



Создано 2024-03-11, Обновлено 2024-04-02
Авторы: Бурхан Кью (1), Абирами Вина (2)

Комментарии