Эффективная настройка гиперпараметров с помощью Ray Tune и YOLO26#

Настройка гиперпараметров жизненно важна для достижения максимальной производительности модели за счет обнаружения оптимального набора гиперпараметров. Это включает в себя выполнение пробных запусков с различными гиперпараметрами и оценку производительности каждого из них.

Ускорь настройку с Ultralytics YOLO26 и Ray Tune#

Ultralytics YOLO26 включает в себя Ray Tune для подбора гиперпараметров, оптимизируя настройку гиперпараметров модели YOLO26. С помощью Ray Tune ты можешь использовать продвинутые стратегии поиска, параллелизм и раннюю остановку для ускорения процесса подбора.

Ray Tune#

Ray Tune — это библиотека для подбора гиперпараметров, созданная для эффективности и гибкости. Она поддерживает различные стратегии поиска, параллелизм и стратегии ранней остановки, а также легко интегрируется с популярными фреймворками машинного обучения, включая Ultralytics YOLO26.

Интеграция с Weights & Biases#

YOLO26 также позволяет опционально интегрироваться с Weights & Biases для мониторинга процесса подбора.

Установка#

Чтобы установить необходимые пакеты, выполни:

# Install and update Ultralytics and Ray Tune packages
pip install -U ultralytics "ray[tune]"

# Optionally install and enable W&B for per-trial logging
pip install wandb
yolo settings wandb=True

Использование#

from ultralytics import YOLO

# Load a YOLO26n model
model = YOLO("yolo26n.pt")

# Start tuning hyperparameters for YOLO26n training on the COCO8 dataset
result_grid = model.tune(data="coco8.yaml", use_ray=True)

Параметры метода tune()#

Метод tune() в YOLO26 предоставляет простой в использовании интерфейс для подбора гиперпараметров с помощью Ray Tune. Он принимает несколько аргументов, позволяющих настроить процесс подбора. Ниже приведено подробное описание каждого параметра:

Настраивая эти параметры, ты можешь доработать процесс оптимизации гиперпараметров под свои конкретные нужды и доступные вычислительные ресурсы.

Описание пространства поиска по умолчанию#

В следующей таблице перечислены параметры пространства поиска по умолчанию для подбора гиперпараметров в YOLO26 с использованием Ray Tune. Каждый параметр имеет определенный диапазон значений, заданный tune.uniform().

Пример пользовательского пространства поиска#

В этом примере мы демонстрируем, как использовать пользовательское пространство поиска для настройки гиперпараметров с помощью Ray Tune и YOLO26. Предоставляя свое пространство поиска, ты можешь сосредоточить процесс настройки на конкретных интересующих тебя гиперпараметрах.

from ray import tune

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Run Ray Tune on the model
result_grid = model.tune(
    data="coco8.yaml",
    space={"lr0": tune.uniform(1e-5, 1e-2)},
    epochs=50,
    use_ray=True,
)

В приведенном выше фрагменте кода мы создаем модель YOLO с предобученными весами "yolo26n.pt". Затем мы вызываем метод tune(), указывая конфигурацию датасета с помощью "coco8.yaml". Мы задаем пользовательское пространство поиска для начальной скорости обучения lr0, используя словарь с ключом "lr0" и значением tune.uniform(1e-5, 1e-2). Наконец, мы передаем дополнительные аргументы обучения, такие как количество эпох, напрямую методу tune как epochs=50.

Пример алгоритма поиска#

Ты можешь выбрать стратегию поиска Ray Tune по имени. Для алгоритмов поиска на основе строк Ultralytics автоматически использует метрику оптимизации текущей задачи по умолчанию и mode="max". Если search_alg не указан, Ray Tune использует свою стратегию случайного поиска по умолчанию — BasicVariantGenerator.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg="optuna",
    use_ray=True,
)

Если тебе нужно настроить сэмплер поисковика или переопределить его метрику и режим оптимизации, передай экземпляр объекта поисковика Ray Tune вместо строки.

from ray.tune.search.optuna import OptunaSearch

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Define a searcher
searcher = OptunaSearch(
    metric="metrics/mAP50-95(B)",
    mode="max",
)

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg=searcher,
    use_ray=True,
)

Возобновление прерванного сеанса настройки гиперпараметров с помощью Ray Tune#

Ты можешь возобновить прерванную сессию Ray Tune, передав resume=True. Ты можешь опционально передать каталог name, используемый Ray Tune в параметре runs/{task}, для возобновления. В противном случае будет возобновлена последняя прерванная сессия. Тебе не нужно снова указывать iterations и space, но нужно снова предоставить остальные аргументы обучения, включая data и epochs.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Resume previous run
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, resume=True)

# Resume Ray Tune run with name 'tune_exp_2'
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, name="tune_exp_2", resume=True)

Обработка результатов Ray Tune#

После проведения эксперимента по настройке гиперпараметров с помощью Ray Tune ты, возможно, захочешь выполнить различные анализы полученных результатов. Это руководство поможет тебе ознакомиться с общими рабочими процессами обработки и анализа таких результатов.

Загрузка результатов эксперимента Tune из каталога#

После запуска эксперимента по подбору с помощью tuner.fit() ты можешь загрузить результаты из каталога. Это полезно, особенно если ты выполняешь анализ после завершения работы исходного скрипта обучения.

experiment_path = f"{storage_path}/{exp_name}"
print(f"Loading results from {experiment_path}...")

restored_tuner = tune.Tuner.restore(experiment_path, trainable=train_mnist)
result_grid = restored_tuner.get_results()

Базовый анализ на уровне эксперимента#

Получи обзор того, как прошли испытания. Ты можешь быстро проверить, были ли ошибки во время выполнения испытаний.

if result_grid.errors:
    print("One or more trials failed!")
else:
    print("No errors!")

Базовый анализ на уровне испытания#

Получи доступ к конфигурациям гиперпараметров отдельных испытаний и последним зарегистрированным метрикам.

for i, result in enumerate(result_grid):
    print(f"Trial #{i}: Configuration: {result.config}, Last Reported Metrics: {result.metrics}")

Построение графика всей истории зарегистрированных метрик для испытания#

Ты можешь построить график истории зарегистрированных метрик для каждого испытания, чтобы увидеть, как метрики менялись с течением времени.

import matplotlib.pyplot as plt

for i, result in enumerate(result_grid):
    plt.plot(
        result.metrics_dataframe["training_iteration"],
        result.metrics_dataframe["mean_accuracy"],
        label=f"Trial {i}",
    )

plt.xlabel("Training Iterations")
plt.ylabel("Mean Accuracy")
plt.legend()
plt.show()

Резюме#

В этом руководстве мы рассмотрели общие рабочие процессы для анализа результатов экспериментов, запущенных с помощью Ray Tune и Ultralytics. Основные шаги включают загрузку результатов эксперимента из директории, выполнение базового анализа на уровне эксперимента и испытания, а также построение графиков метрик.

Узнай больше, обратившись к странице документации Ray Tune Analyze Results, чтобы извлечь максимум пользы из твоих экспериментов по подбору гиперпараметров.

FAQ#