使用 Ray Tune 和 YOLO26 进行高效超参数调优#

超参数调优对于通过寻找最优超参数组合来实现卓越的模型性能至关重要。这涉及使用不同的超参数运行试验并评估每次试验的性能。

使用 Ultralytics YOLO26 和 Ray Tune 加速调优#

Ultralytics YOLO26 集成了 Ray Tune 用于超参数调优，简化了 YOLO26 模型超参数的优化过程。借助 Ray Tune，你可以利用先进的搜索策略、并行化和早停机制来加速调优过程。

Ray Tune#

Ray Tune 是一个专为高效和灵活而设计的超参数调优库。它支持各种搜索策略、并行化和早停策略，并能与包括 Ultralytics YOLO26 在内的流行机器学习框架无缝集成。

与 Weights & Biases 集成#

YOLO26 还允许可选地与 Weights & Biases 集成，以监控调优过程。

安装#

要安装所需的软件包，请运行：

# Install and update Ultralytics and Ray Tune packages
pip install -U ultralytics "ray[tune]"

# Optionally install W&B for logging
pip install wandb

用法#

from ultralytics import YOLO

# Load a YOLO26n model
model = YOLO("yolo26n.pt")

# Start tuning hyperparameters for YOLO26n training on the COCO8 dataset
result_grid = model.tune(data="coco8.yaml", use_ray=True)

tune() 方法参数#

YOLO26 中的 tune() 方法为使用 Ray Tune 进行超参数调优提供了易于使用的接口。它接受多个参数，允许你自定义调优过程。以下是每个参数的详细解释：

通过自定义这些参数，你可以微调超参数优化过程，以满足你的特定需求和可用的计算资源。

默认搜索空间说明#

下表列出了使用 Ray Tune 在 YOLO26 中进行超参数调优的默认搜索空间参数。每个参数都有一个由 tune.uniform() 定义的特定取值范围。

自定义搜索空间示例#

在此示例中，我们将演示如何为 Ray Tune 和 YOLO26 的超参数调优使用自定义搜索空间。通过提供自定义搜索空间，你可以将调优过程集中在特定的超参数上。

from ray import tune

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Run Ray Tune on the model
result_grid = model.tune(
    data="coco8.yaml",
    space={"lr0": tune.uniform(1e-5, 1e-2)},
    epochs=50,
    use_ray=True,
)

在上面的代码片段中，我们使用 "yolo26n.pt" 预训练权重创建了一个 YOLO 模型。然后，我们调用 tune() 方法，通过 "coco8.yaml" 指定数据集配置。我们使用键为 "lr0" 且值为 tune.uniform(1e-5, 1e-2) 的字典为初始学习率 lr0 提供自定义搜索空间。最后，我们将其他训练参数（例如训练轮数）作为 epochs=50 直接传递给 tune 方法。

搜索算法示例#

你可以按名称选择 Ray Tune 搜索策略。对于基于字符串的搜索算法，Ultralytics 将自动使用当前任务的默认优化指标和 mode="max"。如果未提供 search_alg，Ray Tune 将使用其默认的随机搜索策略 BasicVariantGenerator。

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg="optuna",
    use_ray=True,
)

如果你需要自定义搜索器的采样器或覆盖其指标和优化模式，请传递一个实例化的 Ray Tune 搜索器对象，而不是字符串。

from ray.tune.search.optuna import OptunaSearch

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Define a searcher
searcher = OptunaSearch(
    metric="metrics/mAP50-95(B)",
    mode="max",
)

result_grid = model.tune(
    data="coco8.yaml",
    epochs=50,
    search_alg=searcher,
    use_ray=True,
)

恢复被中断的 Ray Tune 超参数调优会话#

你可以通过传递 resume=True 来恢复中断的 Ray Tune 会话。你可以选择传递 Ray Tune 在 runs/{task} 下使用的目录 name 以进行恢复。否则，它将恢复上一个中断的会话。你不需要再次提供 iterations 和 space，但你需要再次提供其余的训练参数，包括 data 和 epochs。

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Resume previous run
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, resume=True)

# Resume Ray Tune run with name 'tune_exp_2'
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, name="tune_exp_2", resume=True)

处理 Ray Tune 结果#

在使用 Ray Tune 运行超参数调优实验后，你可能希望对获得的结果执行各种分析。本指南将带你了解处理和分析这些结果的常见工作流程。

从目录加载调优实验结果#

使用 tuner.fit() 运行调优实验后，你可以从目录中加载结果。这非常有用，特别是如果你在初始训练脚本退出后才执行分析。

experiment_path = f"{storage_path}/{exp_name}"
print(f"Loading results from {experiment_path}...")

restored_tuner = tune.Tuner.restore(experiment_path, trainable=train_mnist)
result_grid = restored_tuner.get_results()

基本的实验级分析#

获取试验表现的概览。你可以快速检查试验过程中是否出现了任何错误。

if result_grid.errors:
    print("One or more trials failed!")
else:
    print("No errors!")

基本的试验级分析#

访问单个试验的超参数配置和最后报告的指标。

for i, result in enumerate(result_grid):
    print(f"Trial #{i}: Configuration: {result.config}, Last Reported Metrics: {result.metrics}")

绘制试验报告指标的完整历史记录#

你可以绘制每个试验的报告指标历史记录，以查看指标随时间的演变情况。

import matplotlib.pyplot as plt

for i, result in enumerate(result_grid):
    plt.plot(
        result.metrics_dataframe["training_iteration"],
        result.metrics_dataframe["mean_accuracy"],
        label=f"Trial {i}",
    )

plt.xlabel("Training Iterations")
plt.ylabel("Mean Accuracy")
plt.legend()
plt.show()

总结#

在本指南中，我们介绍了使用 Ultralytics 和 Ray Tune 分析实验结果的常见工作流。关键步骤包括从目录加载实验结果、执行基本的实验级和试验级分析，以及绘制指标。

通过查看 Ray Tune 的分析结果文档页面进行深入探索，以充分利用你的超参数调优实验。

常见问题解答#

如何使用 Ray Tune 调整我的 YOLO26 模型超参数？#

要使用 Ray Tune 调整 Ultralytics YOLO26 模型的超参数，请按照以下步骤操作：

1. 安装所需的包：

   pip install -U ultralytics "ray[tune]"
   pip install wandb # optional for logging

2. 加载你的 YOLO26 模型并开始调优：

   from ultralytics import YOLO
   
   # Load a YOLO26 model
   model = YOLO("yolo26n.pt")
   
   # Start tuning with the COCO8 dataset
   result_grid = model.tune(data="coco8.yaml", use_ray=True)

这利用了 Ray Tune 的高级搜索策略和并行化来高效优化模型的超参数。有关更多信息，请查看 Ray Tune 文档。

使用 Ray Tune 进行 YOLO26 调优的默认超参数是什么？#

Ultralytics YOLO26 在使用 Ray Tune 进行调优时使用以下默认超参数：

这些超参数可以根据你的特定需求进行自定义。有关完整列表和更多详细信息，请参考超参数调优指南。

如何将 Weights & Biases 集成到我的 YOLO26 模型调优中？#

要将 Weights & Biases (W&B) 集成到你的 Ultralytics YOLO26 调优过程中：

1. 安装 W&B：

   pip install wandb

2. 修改你的调优脚本：

   import wandb
   
   from ultralytics import YOLO
   
   wandb.init(project="YOLO-Tuning", entity="your-entity")
   
   # Load YOLO model
   model = YOLO("yolo26n.pt")
   
   # Tune hyperparameters
   result_grid = model.tune(data="coco8.yaml", use_ray=True)

此设置将允许你监控调优过程、跟踪超参数配置并在 W&B 中可视化结果。

为什么我应该使用 Ray Tune 进行 YOLO26 的超参数优化？#

Ray Tune 为超参数优化提供了众多优势：

• 高级搜索策略： 利用贝叶斯优化和 HyperOpt 等算法进行高效的参数搜索。
• 并行性： 支持多个试验的并行执行，显著加快调优过程。
• 提前停止： 采用 ASHA 等策略提前终止表现不佳的试验，从而节省计算资源。

Ray Tune 与 Ultralytics YOLO26 无缝集成，提供了用于有效调优超参数的易用接口。要开始使用，请查看超参数调优指南。

如何为 YOLO26 超参数调优定义自定义搜索空间？#

要为你的 YOLO26 超参数调优（配合 Ray Tune）定义自定义搜索空间：

from ray import tune

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
search_space = {"lr0": tune.uniform(1e-5, 1e-2), "momentum": tune.uniform(0.7, 0.98)}
result_grid = model.tune(data="coco8.yaml", space=search_space, use_ray=True)

这可以自定义在调优过程中要探索的超参数范围，例如初始学习率和动量。有关高级配置，请参考自定义搜索空间示例部分。