利用 Ray Tune 和YOLOv8

超参数调整对于通过发现一组最佳的超参数来实现最高的模型性能至关重要。这需要使用不同的超参数进行试验，并评估每次试验的性能。

利用Ultralytics YOLOv8 和 Ray Tune 加快调音速度

Ultralytics YOLOv8结合了用于超参数调整的 Ray Tune，简化了YOLOv8 模型超参数的优化过程。利用 Ray Tune，您可以利用高级搜索策略、并行性和早期停止来加快调整过程。

雷-图恩

Ray Tune是一个超参数调整库，旨在提高效率和灵活性。它支持各种搜索策略、并行性和早期停止策略，并与流行的机器学习框架无缝集成，包括Ultralytics YOLOv8 。

与Weights & Biases

YOLOv8 还可选择与 Weights & Biases来监控调整过程。

安装

要安装所需的软件包，请运行

# Install and update Ultralytics and Ray Tune packages
pip install -U ultralytics "ray[tune]"

# Optionally install W&B for logging
pip install wandb

使用方法

from ultralytics import YOLO

# Load a YOLOv8n model
model = YOLO('yolov8n.pt')

# Start tuning hyperparameters for YOLOv8n training on the COCO8 dataset
result_grid = model.tune(data='coco8.yaml', use_ray=True)

tune() 方法参数

"(《世界人权宣言》) tune() YOLOv8 方法为使用 Ray Tune 进行超参数调整提供了一个易于使用的界面。它接受多个参数，允许您自定义调整过程。下面是每个参数的详细说明：

通过自定义这些参数，您可以对超参数优化过程进行微调，以满足您的特定需求和可用计算资源。

默认搜索空间 说明

下表列出了在YOLOv8 中使用 Ray Tune 进行超参数调整的默认搜索空间参数。每个参数的具体取值范围由 tune.uniform().

自定义搜索空间示例

在本例中，我们将演示如何使用 Ray Tune 和YOLOv8 自定义搜索空间进行超参数调整。通过提供自定义搜索空间，可以将调整过程集中在感兴趣的特定超参数上。

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolov8n.pt")

# Run Ray Tune on the model
result_grid = model.tune(data="coco8.yaml",
                         space={"lr0": tune.uniform(1e-5, 1e-1)},
                         epochs=50,
                         use_ray=True)

在上面的代码片段中，我们用 "yolov8n.pt" 预先训练的权重创建了一个YOLO 模型。然后，我们调用 tune() 方法，用 "coco8.yaml "指定数据集配置。我们为初始学习率提供了一个自定义搜索空间 lr0 使用键为 "lr0"、值为 tune.uniform(1e-5, 1e-1).最后，我们将额外的训练参数，如历时次数，直接传递给调整方法，如下所示 epochs=50.

处理射线调整结果

使用 Ray Tune 运行超参数调整实验后，您可能需要对获得的结果进行各种分析。本指南将带您了解处理和分析这些结果的常用工作流程。

从目录加载调谐实验结果

在用 tuner.fit()您可以从一个目录中加载结果。这非常有用，尤其是在初始训练脚本退出后执行分析时。

experiment_path = f"{storage_path}/{exp_name}"
print(f"Loading results from {experiment_path}...")

restored_tuner = tune.Tuner.restore(experiment_path, trainable=train_mnist)
result_grid = restored_tuner.get_results()

实验层面的基本分析

全面了解试验执行情况。您可以快速检查试验过程中是否有任何错误。

if result_grid.errors:
    print("One or more trials failed!")
else:
    print("No errors!")

审判层面的基本分析

访问单个试验超参数配置和上次报告的指标。

for i, result in enumerate(result_grid):
    print(f"Trial #{i}: Configuration: {result.config}, Last Reported Metrics: {result.metrics}")

绘制试验报告指标的整个历史记录

您可以绘制每个试验报告指标的历史记录，查看指标随时间的变化情况。

import matplotlib.pyplot as plt

for result in result_grid:
    plt.plot(result.metrics_dataframe["training_iteration"], result.metrics_dataframe["mean_accuracy"], label=f"Trial {i}")

plt.xlabel('Training Iterations')
plt.ylabel('Mean Accuracy')
plt.legend()
plt.show()

摘要

在本文档中，我们介绍了使用Ultralytics 分析用 Ray Tune 运行的实验结果的常见工作流程。关键步骤包括从目录中加载实验结果、执行基本的实验级和试验级分析以及绘制指标图。

通过查看 Ray Tune 的 "分析结果"文档页面进行进一步探索，以充分利用超参数调整实验。

评论