机器学习模型训练的最佳实践与技巧
介绍
在进行计算机视觉项目时，最重要的步骤之一就是模型训练。在进入这一步之前，你需要定义你的目标并收集和标注数据。在预处理数据以确保其干净且一致后，你就可以开始训练模型了。
Watch: Model Training Tips | How to Handle Large Datasets | Batch Size, GPU Utilization and Mixed Precision
那么，什么是模型训练？模型训练是一个教会模型识别视觉模式并根据数据进行预测的过程。它直接影响应用的性能和准确性。在本指南中，我们将介绍最佳实践、优化技术和故障排除技巧，帮助你有效地训练计算机视觉模型。
如何训练机器学习模型
计算机视觉模型的训练是通过调整其内部参数来最小化误差。最初，模型会被输入大量标注图像。模型对这些图像的内容进行预测，并将预测结果与实际标签或内容进行比较以计算误差。这些误差反映了模型预测与真实值之间的差距。
在训练过程中，模型会通过一种称为反向传播的过程迭代地进行预测、计算误差并更新参数。在此过程中，模型会调整其内部参数（权重和偏差）以减少误差。通过多次重复此循环，模型的准确性会逐渐提高。随着时间的推移，它将学会识别形状、颜色和纹理等复杂模式。
这种学习过程使得计算机视觉模型能够执行各种任务，包括目标检测、实例分割和图像分类。最终目标是创建一个能够将其所学知识泛化到新的、未见过的图像上的模型，以便在现实应用中准确地理解视觉数据。
既然我们已经了解了训练模型时的幕后运作机制，接下来让我们看看训练模型时需要考虑的要点。
在大数据集上进行训练
在计划使用大数据集训练模型时，有几个方面需要考虑。例如，你可以调整批大小 (batch size)、控制 GPU 利用率、选择使用多尺度训练等。让我们详细了解其中的每一个选项。
批大小与 GPU 利用率
在使用大数据集训练模型时，高效利用 GPU 是关键。批大小是一个重要因素。它是机器学习模型在单次训练迭代中处理的数据样本数量。使用 GPU 支持的最大批大小，可以充分发挥其性能并缩短模型训练时间。但你需要避免 GPU 内存耗尽。如果遇到内存错误，请逐步减小批大小，直到模型能够顺利训练。
Watch: How to Use Batch Inference with Ultralytics YOLO26 | Speed Up Object Detection in Python 🎉
With respect to YOLO26, you can set the batch_size parameter in the training configuration to match your GPU capacity. Also, setting batch=-1 in your training script will automatically determine the batch size that can be efficiently processed based on your device's capabilities. By fine-tuning the batch size, you can make the most of your GPU resources and improve the overall training process.
子集训练
子集训练是一种明智的策略，即在代表大数据集的一小部分数据上训练模型。这可以节省时间和资源，特别是在初步模型开发和测试阶段。如果你时间紧迫或正在试验不同的模型配置，子集训练是一个不错的选择。
对于 YOLO26，你可以通过使用 fraction 参数轻松实现子集训练。此参数允许你指定用于训练的数据集比例。例如，设置 fraction=0.1 将在 10% 的数据上训练你的模型。你可以在承诺使用完整数据集训练模型之前，利用此技术进行快速迭代和模型调优。子集训练有助于你取得快速进展并尽早识别潜在问题。
多尺度训练
多尺度训练是一种通过在不同尺寸的图像上训练来提高模型泛化能力的技术。你的模型可以学会检测不同比例和距离的对象，从而变得更加稳健。
例如，当你训练 YOLO26 时，可以通过设置 scale 参数来启用多尺度训练。此参数通过指定的因子调整训练图像的尺寸，从而模拟不同距离的物体。例如，设置 scale=0.5 会在训练过程中随机将训练图像缩放 0.5 到 1.5 倍。配置此参数可以让模型接触到各种图像尺度，并提高其在不同物体尺寸和场景下的检测能力。
Ultralytics also supports image-size multi-scale training via the multi_scale parameter. Unlike scale, which zooms images and then pads/crops back to imgsz, multi_scale changes imgsz itself each batch (rounded to the model stride). For example, with imgsz=640 and multi_scale=0.25, the training size is sampled from 480 up to 800 in stride steps (e.g., 480, 512, 544, ..., 800), while multi_scale=0.0 keeps a fixed size.
缓存
缓存是提高机器学习模型训练效率的一项重要技术。通过将预处理后的图像存储在内存中，缓存减少了 GPU 等待从磁盘加载数据的时间。模型可以持续接收数据，而不会因磁盘 I/O 操作而延迟。
在使用 YOLO26 进行训练时，可以通过 cache 参数控制缓存：
cache=True：将数据集图像存储在 RAM 中，提供最快的访问速度，但会增加内存使用量。cache='disk'：将图像存储在磁盘上，比 RAM 慢，但比每次加载新数据快。cache=False：禁用缓存，完全依赖磁盘 I/O，这是最慢的选项。
混合精度训练
混合精度训练使用 16 位 (FP16) 和 32 位 (FP32) 浮点类型。通过使用 FP16 实现更快的计算，并使用 FP32 在需要时保持精度，从而发挥两者的优势。大多数神经网络操作以 FP16 执行，以受益于更快的计算和更低的内存使用。然而，模型权重的副本会保留在 FP32 中，以确保权重更新步骤中的准确性。你可以在相同的硬件限制内处理更大的模型或更大的批大小。
要实施混合精度训练，你需要修改训练脚本并确保你的硬件（如 GPU）支持它。许多现代深度学习框架（如 PyTorch 和 TensorFlow）都提供对混合精度的内置支持。
使用 YOLO26 时，混合精度训练非常简单。你可以在训练配置中使用 amp 标志。设置 amp=True 即可启用自动混合精度 (AMP) 训练。混合精度训练是一种简单而有效的优化模型训练过程的方法。
预训练权重
使用预训练权重是加快模型训练过程的明智方式。预训练权重来自已经在大型数据集上训练过的模型，能让你的模型有一个良好的开端。迁移学习将预训练模型适应到新的相关任务中。微调预训练模型涉及从这些权重开始，然后在你的特定数据集上继续训练。这种训练方法可以缩短训练时间，并通常带来更好的性能，因为模型从对基本特征的扎实理解开始。
pretrained 参数使 YOLO26 的迁移学习变得简单。设置 pretrained=True 将使用默认的预训练权重，或者你可以指定自定义预训练模型的路径。有效地使用预训练权重和迁移学习可以增强你的模型能力并降低训练成本。
处理大数据集时需要考虑的其他技术
处理大数据集时，还有其他几种技术需要考虑：
- 学习率调度器：实施学习率调度器可以在训练过程中动态调整学习率。调整得当的学习率可以防止模型越过最小值并提高稳定性。在训练 YOLO26 时，
lrf参数通过将最终学习率设置为初始学习率的一小部分来帮助管理学习率调度。 - 分布式训练：对于处理大数据集，分布式训练可以改变游戏规则。你可以通过将训练工作负载分配到多个 GPU 或机器上来缩短训练时间。对于拥有大量计算资源的企业级项目，这种方法尤其有价值。
训练所需的周期 (Epochs) 数量
在训练模型时，周期 (epoch) 是指对整个训练数据集的一次完整遍历。在一个周期内，模型处理训练集中的每个示例一次，并根据学习算法更新其参数。通常需要多个周期才能使模型随着时间的推移学习并完善其参数。
一个常见的问题是如何确定模型训练的周期数。300 个周期是一个很好的起点。如果模型过早过拟合，你可以减少周期数。如果 300 个周期后没有出现过拟合，你可以将训练延长到 600、1200 或更多周期。
然而，理想的周期数会根据数据集的大小和项目目标而有所不同。较大的数据集可能需要更多的周期才能让模型有效学习，而较小的数据集可能需要较少的周期以避免过拟合。对于 YOLO26，你可以在训练脚本中设置 epochs 参数。
提前停止 (Early Stopping)
提前停止是优化模型训练的一项有价值的技术。通过监控验证性能，你可以在模型停止改进时停止训练。你可以节省计算资源并防止过拟合。
该过程涉及设置一个耐心 (patience) 参数，该参数决定在停止训练之前等待验证指标改进的周期数。如果模型性能在这些周期内没有改善，训练就会停止，以避免浪费时间和资源。
对于 YOLO26，你可以通过在训练配置中设置 patience 参数来启用提前停止。例如，patience=5 表示如果在 5 个连续周期内验证指标没有改善，训练将停止。使用此方法可确保训练过程保持高效，并在不进行过多计算的情况下达到最佳性能。
选择云端训练还是本地训练
训练模型有两种选择：云端训练和本地训练。
云端训练提供了可扩展性和强大的硬件，非常适合处理大数据集和复杂模型。Google Cloud、AWS 和 Azure 等平台按需提供高性能 GPU 和 TPU，可加快训练时间并支持更大模型的实验。然而，云端训练可能很昂贵，尤其是长期使用时，且数据传输会增加成本和延迟。
本地训练提供了更高的控制力和定制化能力，让你能够根据特定需求定制环境并避免持续的云端成本。对于长期项目来说，它可能更经济，而且由于数据留在本地，安全性更高。然而，本地硬件可能存在资源限制，并需要维护，这可能导致大型模型的训练时间较长。
选择优化器
优化器是一种调整神经网络权重以最小化损失函数的算法，损失函数用于衡量模型表现的好坏。简单来说，优化器通过调整参数以减少误差来帮助模型学习。选择合适的优化器直接影响模型的学习速度和准确性。
你还可以微调优化器参数以提高模型性能。调整学习率可以设定更新参数时步长的大小。为了稳定性，你可以从适中的学习率开始，并随着时间的推移逐渐减小，以改善长期学习效果。此外，设置动量 (momentum) 可以决定过去更新对当前更新的影响程度。动量的常见值约为 0.9，这通常能提供良好的平衡。
常见优化器
不同的优化器有各自的优缺点。让我们大致了解一些常见的优化器。
-
SGD (随机梯度下降)：
- 使用损失函数关于参数的梯度来更新模型参数。
- 简单且高效，但收敛速度可能较慢，且可能会陷入局部最小值。
-
Adam (自适应矩估计)：
- 结合了带动量的 SGD 和 RMSProp 的优点。
- 根据梯度的一阶矩和二阶矩估计，为每个参数调整学习率。
- 非常适合处理噪声数据和稀疏梯度。
- 高效且通常需要较少的调优，是 YOLO26 的推荐优化器。
-
RMSProp (均方根传播)：
- 通过将梯度除以最近梯度幅值的移动平均值，为每个参数调整学习率。
- 有助于解决梯度消失问题，并对循环神经网络有效。
-
MuSGD (Muon + SGD 混合)：
- 结合了 SGD 式更新与受 Muon 启发的方法，以提高大规模训练的稳定性。
- 当你想要 SGD 般的泛化能力但需要比原始 SGD 更平滑的收敛时，这是一个不错的选择。
- 特别适用于 YOLO26 训练配方；如果不确定，请从
optimizer=auto开始，并与你数据集上的 MuSGD 进行比较。
对于 YOLO26，optimizer 参数允许你从各种优化器中进行选择，包括 SGD、MuSGD、Adam、AdamW、NAdam、RAdam 和 RMSProp，或者你可以将其设置为 auto，根据模型配置自动选择。
yolo train model=yolo26n.pt data=coco8.yaml optimizer=MuSGD与社区建立联系
成为计算机视觉爱好者社区的一员可以帮助你解决问题并更快学习。以下是一些联系、获取帮助和分享想法的方式。
社区资源
- GitHub 问题：访问 YOLO26 GitHub 仓库 并使用“Issues”选项卡来提问、报告 Bug 和建议新功能。社区和维护者非常活跃，随时准备提供帮助。
- Ultralytics Discord 服务器： 加入 Ultralytics Discord 服务器 与其他用户和开发者交流、获取支持并分享你的经验。
官方文档
- Ultralytics YOLO26 文档： 查看 官方 YOLO26 文档 获取有关各种计算机视觉项目的详细指南和实用技巧。
使用这些资源将帮助你解决挑战并随时了解计算机视觉社区的最新趋势和实践。
关键要点
训练计算机视觉模型涉及遵循良好的实践、优化策略以及在出现问题时解决问题。调整批大小、混合精度训练以及从预训练权重开始等技术可以使你的模型表现更好、训练更快。子集训练和提前停止等方法有助于你节省时间和资源。与社区保持联系并跟上新趋势将帮助你不断提升模型训练技能。
常见问题 (FAQ)
在使用 Ultralytics YOLO 训练大数据集时，如何提高 GPU 利用率？
要提高 GPU 利用率，请将训练配置中的 batch_size 参数设置为 GPU 支持的最大大小。这可以确保你充分利用 GPU 的性能，从而缩短训练时间。如果遇到内存错误，请逐步减小批大小，直到训练顺利运行。对于 YOLO26，在训练脚本中设置 batch=-1 将自动确定用于高效处理的最佳批大小。欲了解更多信息，请参考训练配置。
什么是混合精度训练，以及如何在 YOLO26 中启用它？
混合精度训练利用 16 位 (FP16) 和 32 位 (FP32) 浮点类型来平衡计算速度和精度。这种方法可以加快训练速度并减少内存使用，而不会牺牲模型的准确性。要在 YOLO26 中启用混合精度训练，请在训练配置中将 amp 参数设置为 True。这将激活自动混合精度 (AMP) 训练。有关此优化技术的更多详细信息，请参阅训练配置。
多尺度训练如何增强 YOLO26 模型性能？
多尺度训练通过在不同尺寸的图像上进行训练来增强模型性能，使模型能够在不同尺度和距离上实现更好的泛化。在 YOLO26 中，你可以通过在训练配置中设置 scale 参数来启用多尺度训练。例如，scale=0.5 会采样 0.5 到 1.5 之间的缩放因子，然后补齐/裁剪回 imgsz。该技术模拟了不同距离下的对象，使模型在各种场景下更加稳健。有关设置和更多详细信息，请查看训练配置。
如何使用预训练权重来加快 YOLO26 的训练速度？
使用预训练权重可以通过利用已经熟悉基础视觉特征的模型，极大地加速训练并提高模型准确性。在 YOLO26 中，只需在训练配置中将 pretrained 参数设置为 True，或提供指向自定义预训练权重的路径。这种称为迁移学习的方法允许在大型数据集上训练的模型有效地适应你的特定应用。在训练配置指南中了解更多关于如何使用预训练权重及其好处的信息。
模型训练的推荐周期数是多少，如何在 YOLO26 中设置？
周期数是指模型训练过程中对训练数据集的完整遍历次数。一个典型的起点是 300 个周期。如果你的模型过早过拟合，你可以减少这个数字。或者，如果没有观察到过拟合，你可能会将训练延长到 600、1200 或更多周期。要在 YOLO26 中设置此参数，请在训练脚本中使用 epochs 参数。有关确定理想周期数的更多建议，请参阅训练周期数部分。