Hypersim Depth Dataset#

Hypersimは、総合的な室内シーン理解を目的として設計された、室内シーンのフォトリアルな合成データセットです。その画像は、プロが作成したEvermotionの3Dインテリアからレイトレーシングされており、完璧で高密度なピクセル単位の深度グランドトtruth（正解データ）とペアになった、非常にリアルなレンダリングを生成します。

Hypersimは完全な合成データであるため、すべてのピクセルにセンサーノイズ、欠損リターン、測定アーティファクトのない正確な深度値が存在します。これにより、単眼深度推定モデルのトレーニングにおいて、クリーンで高密度な室内ジオメトリの優れたソースとなります。

主な特徴#

プロ仕様のEvermotion 3Dインテリアからレイトレーシングされた、フォトリアルな合成室内シーン。
室内環境のみ。
センサーノイズや値の欠落がない、緻密で完璧なピクセル単位のデプス正解データ。
デプスの範囲は主に10m以下（一部、より長い距離を含む）。
Ultralyticsのデプス学習ミックスに74,619枚の画像（学習用68,242枚 / 検証用6,377枚）を提供します。

データセットの構造#

Hypersimデプスデータセットは、以下の2つのサブセットに分かれています。

Train: 学習用の緻密なデプスマップとペアになった68,242枚の画像。
Val: 学習中の検証に使用する、緻密なデプスマップとペアになった6,377枚の画像。

各 RGB 画像は、ピクセルごとの距離をメートル単位で格納する .npy float32 深度マップとペアになっており、Ultralytics 深度データセット形式に準拠しています。

データの取得#

Hypersimには自動ダウンロード機能がありません。データセット（シーンごとのZIPファイルで約1.9 TB）はAppleよりCC BY-SA 3.0ライセンスの下で配信されており、ml-hypersimリポジトリの公式スクリプトを使用してダウンロードします（選択的ダウンローダーがcontrib/99991で利用可能です）：

git clone https://github.com/apple/ml-hypersim && cd ml-hypersim
python code/python/tools/dataset_download_images.py --downloads_dir ./downloads --decompress_dir ./scenes

RGBフレームはframe.*.tonemap.jpgプレビューであり、深度はframe.*.depth_meters.hdf5に存在します。保存されている値は平面深度ではなくカメラ中心までのレイ距離です。保存する前に変換を行い、NaNピクセル（窓、空）を0（無効）にマッピングしてください。train/valの割り当てには公式のmetadata_images_split_scene_v1.csvシーン分割を使用します。Ultralytics深度データセット形式への参照変換：

import shutil
from pathlib import Path

import h5py
import numpy as np

W, H, FOCAL = 1024, 768, 886.81  # Hypersim camera intrinsics
x, y = np.meshgrid(np.linspace(-W / 2, W / 2, W), np.linspace(-H / 2, H / 2, H))
ray2plane = (FOCAL / np.sqrt(x**2 + y**2 + FOCAL**2)).astype(np.float32)  # distance → planar depth

src, dst = Path("scenes"), Path("datasets/depth-hypersim")
out = "train"  # assign per scene from metadata_images_split_scene_v1.csv
(dst / f"images/{out}").mkdir(parents=True, exist_ok=True)
(dst / f"depth/{out}").mkdir(parents=True, exist_ok=True)
for h5 in sorted(src.rglob("*.depth_meters.hdf5")):
    scene, cam, frame = h5.parts[-4], h5.parent.name.split("_geometry")[0], h5.name.split(".")[1]
    rgb = h5.parents[1] / f"{cam}_final_preview" / f"frame.{frame}.tonemap.jpg"
    dist = np.asarray(h5py.File(h5)["dataset"], np.float32)
    depth = np.nan_to_num(dist * ray2plane, nan=0.0)  # NaN (sky, glass) → 0 = invalid
    name = f"{scene}_{cam}_{frame}"
    np.save(dst / f"depth/{out}/{name}.npy", depth)
    shutil.copy(rgb, dst / f"images/{out}/{name}.jpg")

YOLO26-Depthにおける役割#

Hypersimは、Ultralytics YOLO26-Depthモデルの事前学習に使用される広範なマルチデータセット混合（約219万枚の画像）における学習ソースの一つです。この混合データセットの中で、Hypersimはノイズの多い実世界のセンサーデータを補完する、クリーンで緻密な室内幾何情報を提供します。

この構成において、独立したホールドアウトとしてのHypersimベンチマークはありません。その代わり、生成されたモデルは、NYU Depth V2、KITTI、Make3D、ETH3D、iBims-1といった標準的な単眼デプスベンチマークで評価されます。

データセット YAML#

データセット構成の定義にはYAML（Yet Another Markup Language）ファイルが使用されます。これには、データセットのパス、クラス、およびその他の関連情報が含まれます。Hypersimの場合、depth-hypersim.yamlファイルがパスと単一のdepthクラスを定義します。

ultralytics/cfg/datasets/depth-hypersim.yaml

# Ultralytics 🚀 AGPL-3.0 License - https://ultralytics.com/license

# Hypersim dataset for monocular depth estimation — photorealistic synthetic indoor (ray-traced), dense depth up to ~10 m
# Documentation: https://docs.ultralytics.com/datasets/depth/hypersim
# Example usage: yolo depth train data=depth-hypersim.yaml model=yolo26n-depth.pt
# No autodownload — obtain the source data (see docs) and arrange it as below.
# parent
# ├── ultralytics
# └── datasets
#     └── depth-hypersim
#         ├── images/{train,val}  # RGB images
#         └── depth/{train,val}   # paired *.npy, float32 meters (images/ -> depth/)

path: depth-hypersim # dataset root dir (relative to Ultralytics settings 'datasets_dir')
train: images/train # train images (relative to 'path') 68242 images
val: images/val # val images (relative to 'path') 6377 images

nc: 1
names:
  0: depth

channels: 3

使用方法#

画像サイズ640でHypersimデータセット上でYOLO26n-Depthモデルをトレーニングするには、以下のコードスニペットを使用できます。利用可能な引数の包括的なリストについては、モデルのトレーニングページをご参照ください。

学習例

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n-depth.pt")  # load a pretrained model (recommended for training)

# Train the model
results = model.train(data="depth-hypersim.yaml", epochs=100, imgsz=640)

事前学習済みモデル#

YOLO26深度ファミリー（yolo26n-depth.pt、yolo26s-depth.pt、yolo26m-depth.pt、yolo26l-depth.pt、yolo26x-depth.pt）はUltralyticsのリリースから自動ダウンロードされ、Hypersimがその一部を構成する幅広いマルチデータセットのミックスでトレーニングされています。Ultralytics PlatformでYOLO26x-depthを探索してください。

引用と謝辞#

研究や開発活動でHypersimデータセットを使用する場合は、以下の論文を引用してください。

引用

@inproceedings{roberts2021hypersim,
      title={Hypersim: A Photorealistic Synthetic Dataset for Holistic Indoor Scene Understanding},
      author={Mike Roberts and Jason Ramapuram and Anurag Ranjan and Atulit Kumar and Miguel Angel Bautista and Nathan Paczan and Russ Webb and Joshua M. Susskind},
      booktitle={Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV)},
      year={2021}
}

このフォトリアルな合成室内データセットをコンピュータビジョンコミュニティに提供してくれたHypersimの作成者に感謝いたします。

コントリビューター

GLglenn-jocher¹ BOBovey0809¹

作成日 2 週間前更新日 2 週間前