Бенчмаркинг моделей с Ultralytics YOLO

Визуализация бенчмарков

Введение

После обучения и проверки модели следующим логическим шагом будет оценка ее производительности в различных реальных сценариях. Режим Benchmark в Ultralytics YOLO11 служит этой цели, предоставляя надежную основу для оценки скорости и точности вашей модели в различных форматах экспорта.

Смотреть: Ultralytics Самоучитель по режимам: Бенчмарк

Почему бенчмаркинг имеет решающее значение?

• Обоснованные решения: Получите представление о компромиссах между скоростью и точностью.
• Распределение ресурсов: Поймите, как различные форматы экспорта работают на разном оборудовании.
• Оптимизация: Узнайте, какой формат экспорта обеспечивает наилучшую производительность для вашего конкретного случая использования.
• Экономическая эффективность: Более эффективное использование аппаратных ресурсов на основе результатов эталонных тестов.

Ключевые показатели в режиме бенчмарка

• mAP50-95: Для обнаружения объектов, сегментации и оценки положения.
• accuracy_top5: Для классификации изображений.
• Время вывода: время, затрачиваемое на каждое изображение, в миллисекундах.

Поддерживаемые форматы экспорта

• ONNX: Для оптимальной работы CPU
• TensorRT: Для максимальной эффективности GPU
• OpenVINO: Для оптимизации аппаратного обеспечения Intel
• CoreML, TensorFlow SavedModel , и многое другое: Для различных потребностей в развертывании.

Примеры использования

Запуск бенчмарков YOLO11n на всех поддерживаемых форматах экспорта, включая ONNX, TensorRT и т. д. Полный список аргументов экспорта см. в разделе Аргументы ниже.

from ultralytics.utils.benchmarks import benchmark

# Benchmark on GPU
benchmark(model="yolo11n.pt", data="coco8.yaml", imgsz=640, half=False, device=0)

yolo benchmark model=yolo11n.pt data='coco8.yaml' imgsz=640 half=False device=0

Аргументы

Такие аргументы, как model, data, imgsz, half, device, и verbose предоставляет пользователям гибкость в настройке бенчмарков в соответствии с их конкретными потребностями и позволяет легко сравнивать производительность различных форматов экспорта.

Форматы экспорта

Бенчмарки попытаются автоматически запуститься на всех возможных форматах экспорта, приведенных ниже.

Смотреть полностью export подробности в Экспорт страница.

ЧАСТО ЗАДАВАЕМЫЕ ВОПРОСЫ

Как проверить производительность моей модели YOLO11 с помощью Ultralytics?

Ultralytics YOLO11 предлагает режим Benchmark для оценки производительности вашей модели в различных форматах экспорта. Этот режим позволяет получить представление о таких ключевых показателях, как средняя точность (mAP50-95), точность и время вывода в миллисекундах. Для запуска бенчмарков можно использовать команды Python или CLI . Например, для бенчмарка на GPU:

from ultralytics.utils.benchmarks import benchmark

# Benchmark on GPU
benchmark(model="yolo11n.pt", data="coco8.yaml", imgsz=640, half=False, device=0)

yolo benchmark model=yolo11n.pt data='coco8.yaml' imgsz=640 half=False device=0

Более подробную информацию об аргументах бенчмарка можно найти в разделе Аргументы.

Каковы преимущества экспорта моделей YOLO11 в различные форматы?

Экспорт моделей YOLO11 в различные форматы, такие как ONNX, TensorRT и OpenVINO , позволяет оптимизировать производительность в зависимости от среды развертывания. Например:

• ONNX: Обеспечивает ускорение до 3x CPU .
• TensorRT: Обеспечивает ускорение до 5x GPU .
• OpenVINO: Специально оптимизированы для аппаратного обеспечения Intel . Эти форматы повышают как скорость, так и точность ваших моделей, делая их более эффективными для различных реальных приложений. Для получения подробной информации посетите страницу Экспорт.

Почему бенчмаркинг имеет решающее значение для оценки моделей YOLO11 ?

Бенчмаркинг моделей YOLO11 необходим по нескольким причинам:

• Обоснованные решения: Поймите компромисс между скоростью и точностью.
• Распределение ресурсов: Оцените производительность различных вариантов оборудования.
• Оптимизация: Определите, какой формат экспорта обеспечивает наилучшую производительность для конкретных случаев использования.
• Экономическая эффективность: Оптимизация использования аппаратного обеспечения на основе результатов бенчмарков. Такие ключевые показатели, как mAP50-95, точность Top-5 и время вывода, помогают в проведении этих оценок. Дополнительные сведения см. в разделе " Ключевые метрики ".

Какие форматы экспорта поддерживает YOLO11 и в чем их преимущества?

YOLO11 поддерживает множество форматов экспорта, каждый из которых предназначен для конкретного оборудования и использования:

• ONNX: Лучше всего подходит для CPU .
• TensorRT: Идеально подходит для GPU эффективности.
• OpenVINO: Оптимизировано для оборудования Intel .
• CoreML & TensorFlow: Используется для iOS и общих приложений ML. Полный список поддерживаемых форматов и их соответствующие преимущества см. в разделе Поддерживаемые форматы экспорта.

Какие аргументы можно использовать для точной настройки бенчмарков YOLO11 ?

При запуске бенчмарков можно настроить несколько аргументов под конкретные нужды:

• модель: Путь к файлу модели (например, "yolo11n.pt").
• data: Путь к YAML-файлу, определяющему набор данных (например, "coco8.yaml").
• imgsz: размер входного изображения, либо в виде одного целого числа, либо в виде кортежа.
• половина: Включите вывод FP16 для повышения производительности.
• int8: Активирует квантование INT8 для краевых устройств.
• устройство: Укажите вычислительное устройство (например, "cpu", "cuda:0").
• verbose: Управление уровнем детализации журнала. Полный список аргументов приведен в разделе Аргументы.

📅 Создано 1 год назад ✏️ Обновлено 2 дня назад

Комментарии