Эффективная настройка гиперпараметров с Ray Tune и YOLO26#

Настройка гиперпараметров необходима для достижения максимальной производительности модели за счёт поиска оптимального набора гиперпараметров. Она включает запуск экспериментов с разными гиперпараметрами и оценку производительности каждого эксперимента.

Ускоренная настройка с Ultralytics YOLO26 и Ray Tune#

Ultralytics YOLO26 интегрирует Ray Tune для настройки гиперпараметров, упрощая оптимизацию гиперпараметров модели YOLO26. С Ray Tune ты можешь использовать продвинутые стратегии поиска, параллельное выполнение и досрочную остановку, чтобы ускорить процесс настройки.

Ray Tune#

Ray Tune — библиотека для настройки гиперпараметров, разработанная с учётом эффективности и гибкости. Она поддерживает различные стратегии поиска, параллельное выполнение и стратегии досрочной остановки, а также легко интегрируется с популярными фреймворками машинного обучения, включая Ultralytics YOLO26.

Интеграция с Weights & Biases#

YOLO26 также поддерживает необязательную интеграцию с Weights & Biases для мониторинга процесса настройки.

Установка#

Чтобы установить необходимые пакеты, выполни:

# Install and update Ultralytics and Ray Tune packages
pip install -U ultralytics "ray[tune]" optuna

# Optionally install and enable W&B for per-trial logging
pip install wandb
yolo settings wandb=True

Использование#

from ultralytics import YOLO

# Load a YOLO26n model
model = YOLO("yolo26n.pt")

# Start tuning hyperparameters for YOLO26n training on the COCO8 dataset
result_grid = model.tune(data="coco8.yaml", use_ray=True)

Параметры метода tune()#

Метод tune() в YOLO26 предоставляет удобный интерфейс для настройки гиперпараметров с Ray Tune. Он принимает несколько аргументов, позволяющих настроить процесс настройки. Ниже приведено подробное описание каждого параметра:

Настраивая эти параметры, ты можешь адаптировать процесс оптимизации гиперпараметров под свои конкретные задачи и доступные вычислительные ресурсы.

Описание пространства поиска по умолчанию#

В следующей таблице перечислены параметры пространства поиска по умолчанию для настройки гиперпараметров YOLO26 с Ray Tune. Для каждого параметра задан определённый диапазон значений с помощью tune.uniform().

Пример пользовательского пространства поиска#

В этом примере показано, как использовать пользовательское пространство поиска для настройки гиперпараметров с Ray Tune и YOLO26. Задав пользовательское пространство поиска, ты можешь сосредоточить процесс настройки на интересующих тебя гиперпараметрах.

from ray import tune

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Run Ray Tune on the model
result_grid = model.tune(
    data="coco8.yaml",
    space={"lr0": tune.uniform(1e-5, 1e-2)},
    epochs=50,
    use_ray=True,
)

В приведённом выше фрагменте кода мы создаём модель YOLO с предварительно обученными весами "yolo26n.pt". Затем вызываем метод tune(), указывая конфигурацию набора данных "coco8.yaml". Мы задаём пользовательское пространство поиска для начальной скорости обучения lr0 с помощью словаря с ключом "lr0" и значением tune.uniform(1e-5, 1e-2). Наконец, мы передаём дополнительные аргументы обучения, например количество эпох, непосредственно методу tune как epochs=50.

Пример алгоритма поиска#

Ты можешь выбрать стратегию поиска Ray Tune по имени. Для алгоритмов поиска, заданных строкой, Ultralytics автоматически использует оптимизационную метрику по умолчанию для текущей задачи и mode="max". Если search_alg не указан, Ultralytics использует многомерный TPE Optuna с предложениями, учитывающими параллельное выполнение.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg="optuna",
    use_ray=True,
)

Если тебе нужно настроить сэмплер поисковика или переопределить его метрику и режим оптимизации, передай вместо строки инициализированный объект поисковика Ray Tune.

from ray.tune.search.optuna import OptunaSearch

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Define a searcher
searcher = OptunaSearch(
    metric="metrics/mAP50-95(B)",
    mode="max",
)

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg=searcher,
    use_ray=True,
)

Возобновление прерванного сеанса настройки гиперпараметров с Ray Tune#

Ты можешь возобновить прерванный сеанс Ray Tune, передав resume=True. При необходимости можно передать каталог name, используемый Ray Tune, в параметре runs/{task}, чтобы возобновить сеанс. В противном случае будет возобновлён последний прерванный сеанс. Повторно указывать iterations и space не нужно, но остальные аргументы обучения, включая data и epochs, нужно передать снова.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Resume previous run
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, resume=True)

# Resume Ray Tune run with name 'tune_exp_2'
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, name="tune_exp_2", resume=True)

Обработка результатов Ray Tune#

После проведения эксперимента по настройке гиперпараметров с Ray Tune ты можешь выполнить различные виды анализа полученных результатов. В этом руководстве рассматриваются распространённые рабочие процессы обработки и анализа этих результатов.

Загрузка результатов эксперимента Tune из каталога#

model.tune(use_ray=True) возвращает ResultGrid Ray и сохраняет эксперимент в runs/{task}/tune или в переданный name. Чтобы загрузить эти результаты после завершения работы исходного скрипта, возобнови сеанс, что восстановит сохраненные запуски и вернет тот же ResultGrid:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result_grid = model.tune(data="coco8.yaml", epochs=50, use_ray=True, resume=True)

Базовый анализ на уровне эксперимента#

Получи обзор результатов экспериментов. Ты можешь быстро проверить, возникали ли ошибки во время экспериментов.

if result_grid.errors:
    print("One or more trials failed!")
else:
    print("No errors!")

Базовый анализ на уровне эксперимента#

Получи доступ к конфигурациям гиперпараметров отдельных экспериментов и последним опубликованным метрикам.

for i, result in enumerate(result_grid):
    print(f"Trial #{i}: Configuration: {result.config}, Last Reported Metrics: {result.metrics}")

Построение графика всей истории опубликованных метрик эксперимента#

Ты можешь построить график истории опубликованных метрик для каждого эксперимента и посмотреть, как метрики изменялись со временем.

import matplotlib.pyplot as plt

for i, result in enumerate(result_grid):
    plt.plot(
        result.metrics_dataframe["training_iteration"],
        result.metrics_dataframe["metrics/mAP50-95(B)"],
        label=f"Trial {i}",
    )

plt.xlabel("Training Iterations")
plt.ylabel("mAP50-95")
plt.legend()
plt.show()

Итоги#

В этом руководстве мы рассмотрели распространённые рабочие процессы анализа результатов экспериментов, выполненных с Ray Tune и Ultralytics. Ключевые шаги включают загрузку результатов эксперимента из каталога, базовый анализ на уровне эксперимента и отдельного запуска, а также построение графиков метрик.

Изучи документацию Ray Tune на странице Analyze Results, чтобы получить максимум от экспериментов по настройке гиперпараметров.

Часто задаваемые вопросы#