使用 Ray Tune 和 YOLO26 进行高效超参数调优

超参数调优对于通过寻找最优超参数组合来实现模型最佳性能至关重要。这涉及使用不同的超参数运行试验并评估每次试验的性能。

使用 Ultralytics YOLO26 和 Ray Tune 加速调优

Ultralytics YOLO26 集成了 Ray Tune 用于超参数调优，简化了 YOLO26 模型超参数的优化过程。借助 Ray Tune，你可以利用高级搜索策略、并行化和提前停止功能来加快调优过程。

Ray Tune

Ray Tune 是一个专为高效和灵活而设计的超参数调优库。它支持多种搜索策略、并行化和提前停止策略，并能与主流机器学习框架（包括 Ultralytics YOLO26）无缝集成。

与 Weights & Biases 集成

YOLO26 还支持与 Weights & Biases 的可选集成，以便监控调优过程。

安装

要安装所需的软件包，请运行：

# Install and update Ultralytics and Ray Tune packages
pip install -U ultralytics "ray[tune]"

# Optionally install W&B for logging
pip install wandb

使用方法

from ultralytics import YOLO

# Load a YOLO26n model
model = YOLO("yolo26n.pt")

# Start tuning hyperparameters for YOLO26n training on the COCO8 dataset
result_grid = model.tune(data="coco8.yaml", use_ray=True)

tune() 方法参数

YOLO26 中的 tune() 方法提供了一个易于使用的接口，用于配合 Ray Tune 进行超参数调优。它接受多个参数，允许你自定义调优过程。以下是每个参数的详细说明：

通过自定义这些参数，你可以根据自己的特定需求和可用计算资源微调超参数优化过程。

默认搜索空间描述

下表列出了使用 Ray Tune 进行 YOLO26 超参数调优的默认搜索空间参数。每个参数都有一个由 tune.uniform() 定义的特定值范围。

自定义搜索空间示例

在此示例中，我们演示了如何使用自定义搜索空间配合 Ray Tune 和 YOLO26 进行超参数调优。通过提供自定义搜索空间，你可以将调优过程聚焦在特定的超参数上。

from ray import tune

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Run Ray Tune on the model
result_grid = model.tune(
    data="coco8.yaml",
    space={"lr0": tune.uniform(1e-5, 1e-2)},
    epochs=50,
    use_ray=True,
)

In the code snippet above, we create a YOLO model with the "yolo26n.pt" pretrained weights. Then, we call the tune() method, specifying the dataset configuration with "coco8.yaml". We provide a custom search space for the initial learning rate lr0 using a dictionary with the key "lr0" and the value tune.uniform(1e-5, 1e-2). Finally, we pass additional training arguments, such as the number of epochs directly to the tune method as epochs=50.

搜索算法示例

你可以按名称选择 Ray Tune 搜索策略。对于基于字符串的搜索算法，Ultralytics 将自动使用当前任务的默认优化指标和 mode="max"。如果不提供 search_alg，Ray Tune 将使用其默认的随机搜索策略 BasicVariantGenerator。

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg="optuna",
    use_ray=True,
)

如果你需要自定义搜索器的采样器或覆盖其指标和优化模式，请传入一个已实例化的 Ray Tune 搜索器对象，而不是字符串。

from ray.tune.search.optuna import OptunaSearch

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Define a searcher
searcher = OptunaSearch(
    metric="metrics/mAP50-95(B)",
    mode="max",
)

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg=searcher,
    use_ray=True,
)

恢复被中断的 Ray Tune 超参数调优会话

You can resume an interrupted Ray Tune session by passing resume=True. You can optionally pass the directory name used by Ray Tune under runs/{task} to resume. Otherwise, it would resume the last interrupted session. You don't need to provide the iterations and space again, but you need to provide the rest of the training arguments again including data and epochs.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Resume previous run
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, resume=True)

# Resume Ray Tune run with name 'tune_exp_2'
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, name="tune_exp_2", resume=True)

处理 Ray Tune 结果

在使用 Ray Tune 运行超参数调优实验后，你可能希望对获得的结果进行各种分析。本指南将带你了解处理和分析这些结果的常见工作流。

从目录加载调优实验结果

在使用 tuner.fit() 运行调优实验后，你可以从目录加载结果。这非常有用，特别是在初始训练脚本退出后进行分析时。

experiment_path = f"{storage_path}/{exp_name}"
print(f"Loading results from {experiment_path}...")

restored_tuner = tune.Tuner.restore(experiment_path, trainable=train_mnist)
result_grid = restored_tuner.get_results()

基础实验级分析

获取试验表现的概览。你可以快速检查试验期间是否存在任何错误。

if result_grid.errors:
    print("One or more trials failed!")
else:
    print("No errors!")

基础试验级分析

访问单个试验的超参数配置和最后报告的指标。

for i, result in enumerate(result_grid):
    print(f"Trial #{i}: Configuration: {result.config}, Last Reported Metrics: {result.metrics}")

绘制试验报告指标的完整历史记录

你可以绘制每个试验的报告指标历史记录，以观察指标随时间的变化情况。

import matplotlib.pyplot as plt

for i, result in enumerate(result_grid):
    plt.plot(
        result.metrics_dataframe["training_iteration"],
        result.metrics_dataframe["mean_accuracy"],
        label=f"Trial {i}",
    )

plt.xlabel("Training Iterations")
plt.ylabel("Mean Accuracy")
plt.legend()
plt.show()

总结

在本指南中，我们介绍了使用 Ultralytics 和 Ray Tune 运行实验后分析结果的常见工作流。关键步骤包括从目录加载实验结果、执行基础的实验级和试验级分析，以及绘制指标图。

查看 Ray Tune 的分析结果文档页面以深入探索，充分利用你的超参数调优实验。

常见问题 (FAQ)

如何使用 Ray Tune 调优我的 YOLO26 模型超参数？

要使用 Ray Tune 调优你的 Ultralytics YOLO26 模型超参数，请按照以下步骤操作：

1. 安装所需的包：

   pip install -U ultralytics "ray[tune]"
   pip install wandb # optional for logging

2. 加载你的 YOLO26 模型并开始调优：

   from ultralytics import YOLO
   
   # Load a YOLO26 model
   model = YOLO("yolo26n.pt")
   
   # Start tuning with the COCO8 dataset
   result_grid = model.tune(data="coco8.yaml", use_ray=True)

这利用了 Ray Tune 的高级搜索策略和并行化功能，以高效地优化模型的超参数。欲了解更多信息，请查看 Ray Tune 文档。

使用 Ray Tune 进行 YOLO26 调优的默认超参数是什么？

Ultralytics YOLO26 使用以下默认超参数进行 Ray Tune 调优：

这些超参数可以根据你的具体需求进行自定义。如需完整列表和更多详细信息，请参阅 超参数调优 指南。

如何将 Weights & Biases 集成到我的 YOLO26 模型调优中？

要将 Weights & Biases (W&B) 与你的 Ultralytics YOLO26 调优过程集成：

1. 安装 W&B：

   pip install wandb

2. 修改你的调优脚本：

   import wandb
   
   from ultralytics import YOLO
   
   wandb.init(project="YOLO-Tuning", entity="your-entity")
   
   # Load YOLO model
   model = YOLO("yolo26n.pt")
   
   # Tune hyperparameters
   result_grid = model.tune(data="coco8.yaml", use_ray=True)

此设置将允许你在 W&B 中监控调优过程、跟踪超参数配置并可视化结果。

为什么我应该使用 Ray Tune 对 YOLO26 进行超参数优化？

Ray Tune 为超参数优化提供了诸多优势：

• 高级搜索策略： 利用 贝叶斯优化 和 HyperOpt 等算法进行高效的参数搜索。
• 并行计算： 支持多个试验的并行执行，显著加快调优过程。
• 提前停止： 采用 ASHA 等策略提前终止表现不佳的试验，从而节省计算资源。

Ray Tune 与 Ultralytics YOLO26 无缝集成，提供了一个简单易用的界面来有效调整超参数。要开始使用，请查看 超参数调优 指南。

如何为 YOLO26 超参数调优定义自定义搜索空间？

若要通过 Ray Tune 为你的 YOLO26 超参数调优定义自定义搜索空间：

from ray import tune

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
search_space = {"lr0": tune.uniform(1e-5, 1e-2), "momentum": tune.uniform(0.7, 0.98)}
result_grid = model.tune(data="coco8.yaml", space=search_space, use_ray=True)

这将自定义调优过程中要探索的初始学习率和动量等超参数的范围。如需高级配置，请参阅 自定义搜索空间示例 部分。