跳至内容

COCO Pose 数据集

COCO-Pose数据集是 COCO(Common Objects in Context,上下文中的常见物体)数据集的专门版本,设计用于姿势估计任务。它利用 COCO 关键点 2017 图像和标签来训练用于姿势估计任务的模型(如YOLO )。

姿势样本图像

COCO Pose 预训练模型

模型 尺寸
(像素)

50-95
mAPpose
50
速度
CPU ONNX
(毫秒)
速度
A100 TensorRT
(毫秒)
params
(M)
FLOPs
(B)
YOLOv8n-姿势 640 50.4 80.1 131.8 1.18 3.3 9.2
YOLOv8s-姿势 640 60.0 86.2 233.2 1.42 11.6 30.2
YOLOv8m-姿势 640 65.0 88.8 456.3 2.00 26.4 81.0
YOLOv8l-姿势 640 67.6 90.0 784.5 2.59 44.4 168.6
YOLOv8x-姿势 640 69.2 90.2 1607.1 3.73 69.4 263.2
YOLOv8x-pose-p6 1280 71.6 91.2 4088.7 10.04 99.1 1066.4

主要功能

  • COCO-Pose 基于 COCO Keypoints 2017 数据集,该数据集包含 20 万张标有关键点的图像,用于姿势估计任务。
  • 数据集支持 17 个人物关键点,便于进行详细的姿势估算。
  • 与 COCO 一样,它提供标准化的评估指标,包括用于姿态估计任务的对象关键点相似性(OKS),因此适合比较模型性能。

数据集结构

COCO-Pose 数据集分为三个子集:

  1. Train2017:该子集包含 COCO 数据集中 118K 幅图像中的一部分,注释用于训练姿势估计模型。
  2. Val2017:该子集包含模型训练过程中用于验证的部分图像。
  3. 测试 2017:该子集包含用于测试和基准测试训练模型的图像。该子集的地面实况注释不公开,其结果将提交给COCO 评估服务器进行性能评估。

应用

COCO-Pose 数据集专门用于训练和评估关键点检测和姿势估计任务(如 OpenPose)中的深度学习模型。该数据集拥有大量带注释的图像和标准化的评估指标,是专注于姿势估计的计算机视觉研究人员和从业人员的重要资源。

数据集 YAML

YAML(另一种标记语言)文件用于定义数据集配置。它包含数据集的路径、类和其他相关信息。就 COCO-Pose 数据集而言,YAML 文件中的 coco-pose.yaml 文件保存在 https://github.com/ultralytics/ultralytics/blob/main/ultralytics/cfg/datasets/coco-pose.yaml.

ultralytics/cfg/datasets/coco-pose.yaml

# Ultralytics YOLO 🚀, AGPL-3.0 license
# COCO 2017 dataset https://cocodataset.org by Microsoft
# Documentation: https://docs.ultralytics.com/datasets/pose/coco/
# Example usage: yolo train data=coco-pose.yaml
# parent
# ├── ultralytics
# └── datasets
#     └── coco-pose  ← downloads here (20.1 GB)

# Train/val/test sets as 1) dir: path/to/imgs, 2) file: path/to/imgs.txt, or 3) list: [path/to/imgs1, path/to/imgs2, ..]
path: ../datasets/coco-pose # dataset root dir
train: train2017.txt # train images (relative to 'path') 118287 images
val: val2017.txt # val images (relative to 'path') 5000 images
test: test-dev2017.txt # 20288 of 40670 images, submit to https://competitions.codalab.org/competitions/20794

# Keypoints
kpt_shape: [17, 3] # number of keypoints, number of dims (2 for x,y or 3 for x,y,visible)
flip_idx: [0, 2, 1, 4, 3, 6, 5, 8, 7, 10, 9, 12, 11, 14, 13, 16, 15]

# Classes
names:
  0: person

# Download script/URL (optional)
download: |
  from ultralytics.utils.downloads import download
  from pathlib import Path

  # Download labels
  dir = Path(yaml['path'])  # dataset root dir
  url = 'https://github.com/ultralytics/assets/releases/download/v0.0.0/'
  urls = [url + 'coco2017labels-pose.zip']  # labels
  download(urls, dir=dir.parent)
  # Download data
  urls = ['http://images.cocodataset.org/zips/train2017.zip',  # 19G, 118k images
          'http://images.cocodataset.org/zips/val2017.zip',  # 1G, 5k images
          'http://images.cocodataset.org/zips/test2017.zip']  # 7G, 41k images (optional)
  download(urls, dir=dir / 'images', threads=3)

使用方法

要在图像大小为 640 的 COCO-Pose 数据集上训练YOLOv8n-pose 模型 100 次,可以使用以下代码片段。有关可用参数的完整列表,请参阅模型训练页面。

列车示例

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n-pose.pt")  # load a pretrained model (recommended for training)

# Train the model
results = model.train(data="coco-pose.yaml", epochs=100, imgsz=640)
# Start training from a pretrained *.pt model
yolo detect train data=coco-pose.yaml model=yolov8n.pt epochs=100 imgsz=640

图片和注释示例

COCO-Pose 数据集包含一组不同的人物图像,并标注了关键点。下面是数据集中的一些图像示例及其相应的注释:

数据集样本图像

  • 镶嵌图像:该图像展示了由马赛克数据集图像组成的训练批次。马赛克是一种在训练过程中使用的技术,可将多幅图像合并为单幅图像,以增加每个训练批次中物体和场景的多样性。这有助于提高模型对不同物体尺寸、长宽比和环境的泛化能力。

该示例展示了 COCO-Pose 数据集中图像的多样性和复杂性,以及在训练过程中使用镶嵌技术的好处。

引文和致谢

如果您在研究或开发工作中使用 COCO-Pose 数据集,请引用以下论文:

@misc{lin2015microsoft,
      title={Microsoft COCO: Common Objects in Context},
      author={Tsung-Yi Lin and Michael Maire and Serge Belongie and Lubomir Bourdev and Ross Girshick and James Hays and Pietro Perona and Deva Ramanan and C. Lawrence Zitnick and Piotr Dollár},
      year={2015},
      eprint={1405.0312},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}

我们衷心感谢 COCO 联盟为计算机视觉界创建并维护这一宝贵资源。有关 COCO-Pose 数据集及其创建者的更多信息,请访问COCO 数据集网站

常见问题

什么是 COCO-Pose 数据集,如何将其与Ultralytics YOLO 一起用于姿势估计?

COCO-Pose数据集是 COCO(Common Objects in Context,上下文中的常见物体)数据集的专门版本,设计用于姿势估计任务。它建立在 COCO Keypoints 2017 图像和注释的基础上,允许对Ultralytics YOLO 等模型进行训练,以进行详细的姿势估计。例如,您可以使用 COCO-Pose 数据集来训练YOLOv8n-pose 模型,方法是加载一个预训练模型并使用 YAML 配置对其进行训练。有关训练示例,请参阅训练文档。

如何在 COCO-Pose 数据集上训练YOLOv8 模型?

可以使用Python 或CLI 命令在 COCO-Pose 数据集上训练YOLOv8 模型。例如,要在图像大小为 640 的情况下训练YOLOv8n-pose 模型 100 次,可以按照以下步骤进行:

列车示例

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n-pose.pt")  # load a pretrained model (recommended for training)

# Train the model
results = model.train(data="coco-pose.yaml", epochs=100, imgsz=640)
# Start training from a pretrained *.pt model
yolo detect train data=coco-pose.yaml model=yolov8n.pt epochs=100 imgsz=640

有关培训过程和可用参数的更多详情,请查看培训页面

COCO-Pose 数据集提供了哪些用于评估模型性能的不同指标?

与原始 COCO 数据集类似,COCO-Pose 数据集为姿势估计任务提供了多个标准化评估指标。关键指标包括物体关键点相似度(OKS),该指标根据地面实况注释评估预测关键点的准确性。通过这些指标,可以对不同模型进行全面的性能比较。例如,COCO-Pose 预训练模型(如YOLOv8n-pose、YOLOv8s-pose 和其他模型)在文档中列出了具体的性能指标,如mAPpose50-95mAPpose50

COCO-Pose 数据集的结构和分割方式是怎样的?

COCO-Pose 数据集分为三个子集:

  1. Train2017:包含 118K COCO 图像中的一部分,注释用于训练姿势估计模型。
  2. Val2017:模型训练期间用于验证的选定图像。
  3. Test2017:用于测试和基准测试训练有素的模型的图像。该子集的地面实况注释未公开;结果提交给COCO 评估服务器进行性能评估。

这些子集有助于有效组织训练、验证和测试阶段。有关配置的详细信息,请访问 coco-pose.yaml 文件可在 GitHub.

COCO-Pose 数据集有哪些主要特点和应用?

COCO-Pose 数据集扩展了 2017 年 COCO 关键点注释,纳入了 17 个人物关键点,实现了详细的姿势估计。标准化的评估指标(如 OKS)便于对不同模型进行比较。COCO-Pose 数据集的应用领域广泛,如体育分析、医疗保健和人机交互等需要对人物进行详细姿势估计的领域。在实际使用中,利用文档中提供的预训练模型(如YOLOv8n-pose)可以大大简化流程(主要功能)。

如果您在研究或开发工作中使用 COCO-Pose 数据集,请在引用论文时使用以下BibTeX 条目



创建于 2023-11-12,更新于 2024-07-04
作者:glenn-jocher(7),RizwanMunawar(1),Laughing-q(1)

评论