Dataset di profondità TartanAir#

TartanAir è un dataset sintetico su larga scala generato nel simulatore AirSim. È stato creato per ampliare i limiti dello SLAM visivo e comprende un'ampia varietà di ambienti — scene interne, esterne, urbane e naturali — oltre a variazioni stagionali, meteorologiche e di illuminazione, nonché condizioni impegnative.

Poiché TartanAir viene renderizzato in simulazione, fornisce ground truth densa della profondità per questo insieme eterogeneo di scene, rappresentando una valida fonte di diversità ambientale e geometria a lungo raggio per l'addestramento di modelli di stima della profondità monoculare.

Funzionalità principali#

• Dati sintetici generati nel simulatore AirSim.
• Diversi ambienti interni ed esterni (urbani, naturali) con variazioni stagionali, meteorologiche e di illuminazione, oltre a condizioni impegnative.
• Ground truth della profondità densa in tutte le scene.
• Intervallo di profondità fino a ~80 m.
• Contribuisce con 61.470 immagini (55.660 per il training / 5.810 per la validazione) alla combinazione di dati per l'addestramento della profondità di Ultralytics.

Struttura del dataset#

Il dataset di profondità TartanAir è suddiviso in due sottoinsiemi:

1. Train: 55.660 immagini con mappe di profondità dense associate per l'addestramento.
2. Val: 5.810 immagini con mappe di profondità dense associate per la validazione durante l'addestramento.

Ogni immagine RGB è associata a un PNG di profondità uint16 scalato, con 256 unità per metro (depth_scale: 256), conforme al formato del dataset di profondità Ultralytics. Questo rappresenta l'intero intervallo di 80 m con una risoluzione di 3,90625 mm.

Ottenere i dati#

TartanAir non supporta il download automatico: i dati sono distribuiti da AirLab di CMU (consulta la pagina del dataset per i termini) e vengono scaricati con gli script tartanair_tools:

git clone https://github.com/castacks/tartanair_tools && cd tartanair_tools
python download_training.py --output-dir ./data --rgb --depth --only-left --unzip

La profondità è già memorizzata come float32 .npy in metri (depth_left/*_left_depth.npy accanto a image_left/*_left.png), quindi la conversione consiste solo nel riordinamento e nell'invalidazione del cielo (renderizzato come distanze estreme; la combinazione rilasciata limita i valori a 80 m per uniformarsi al file YAML del dataset). TartanAir non include una suddivisione val ufficiale: riserva uno o più ambienti per la valutazione. Conversione di riferimento al formato del dataset di profondità Ultralytics:

import shutil
from pathlib import Path

import numpy as np

from ultralytics.data.utils import save_depth_png

VAL_ENVS = {"neighborhood"}  # environments held out for validation
src, dst = Path("data"), Path("datasets/depth-tartanair")
for depth_file in sorted(src.rglob("depth_left/*_left_depth.npy")):
    env, traj = depth_file.parts[-5], depth_file.parts[-3]
    out = "val" if env.lower() in VAL_ENVS else "train"
    (dst / f"images/{out}").mkdir(parents=True, exist_ok=True)
    (dst / f"depth/{out}").mkdir(parents=True, exist_ok=True)
    depth = np.load(depth_file)
    depth[depth > 80.0] = 0.0  # sky/extreme range → 0 = invalid
    frame = depth_file.name.replace("_depth.npy", "")  # e.g. 000000_left
    name = f"{env}_{traj}_{frame}"
    save_depth_png(dst / f"depth/{out}/{name}.png", depth, scale=256)
    shutil.copy(depth_file.parents[1] / "image_left" / f"{frame}.png", dst / f"images/{out}/{name}.png")

Ruolo in YOLO26-Depth#

TartanAir è una delle fonti di addestramento nella combinazione ampia di più dataset (~2,19M di immagini) utilizzata per il pretraining dei modelli Ultralytics YOLO26-Depth. All'interno di questa combinazione, TartanAir contribuisce con diversità ambientale sintetica e geometria esterna a lungo raggio, complementari alle fonti interne e reali.

In questa configurazione non esiste un benchmark TartanAir indipendente con dati tenuti da parte. I modelli risultanti vengono invece valutati sui benchmark standard per la profondità monoculare: NYU Depth V2, KITTI, Make3D, ETH3D e iBims-1.

YAML del dataset#

Un file YAML viene utilizzato per definire la configurazione del dataset. Contiene informazioni sui percorsi, sulle classi e su altre informazioni pertinenti del dataset. Per TartanAir, il file depth-tartanair.yaml definisce i percorsi e la singola classe depth.

# Ultralytics 🚀 AGPL-3.0 License - https://ultralytics.com/license

# TartanAir dataset for monocular depth estimation — synthetic indoor + outdoor (AirSim), dense depth up to ~80 m
# Documentation: https://docs.ultralytics.com/datasets/depth/tartanair
# Example usage: yolo depth train data=depth-tartanair.yaml model=yolo26n-depth.pt
# No autodownload — obtain the source data (see docs) and arrange it as below.
# parent
# ├── ultralytics
# └── datasets
#     └── depth-tartanair
#         ├── images/{train,val}  # RGB images
#         └── depth/{train,val}   # paired 16-bit *.png depth maps (images/ -> depth/)

path: depth-tartanair # dataset root dir (relative to Ultralytics settings 'datasets_dir')
train: images/train # train images (relative to 'path') 55660 images
val: images/val # val images (relative to 'path') 5810 images
max_depth: 80 # (m) maximum valid depth; GT beyond this is excluded from val metrics

nc: 1
names:
  0: depth

channels: 3
depth_scale: 256 # PNG value 256 = 1 meter; represents the 80 m outdoor range

Utilizzo#

Per addestrare un modello YOLO26n-Depth sul dataset TartanAir con una dimensione delle immagini di 640, puoi utilizzare i seguenti frammenti di codice. Per un elenco completo degli argomenti disponibili, consulta la pagina Training del modello.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n-depth.pt")  # load a pretrained model (recommended for training)

# Train the model
results = model.train(data="depth-tartanair.yaml", epochs=100, imgsz=640)

Modelli pre-addestrati#

La famiglia di modelli di profondità YOLO26 (yolo26n-depth.pt, yolo26s-depth.pt, yolo26m-depth.pt, yolo26l-depth.pt, yolo26x-depth.pt) viene scaricata automaticamente dalle release di Ultralytics ed è addestrata sulla combinazione ampia di più dataset di cui TartanAir fa parte. Esplora YOLO26x-depth su Ultralytics Platform.

Citazioni e ringraziamenti#

Se utilizzi il dataset TartanAir per attività di ricerca o sviluppo, cita il seguente articolo:

@inproceedings{wang2020tartanair,
      title={TartanAir: A Dataset to Push the Limits of Visual SLAM},
      author={Wenshan Wang and Delong Zhu and Xiangwei Wang and Yaoyu Hu and Yuheng Qiu and Chen Wang and Yafei Hu and Ashish Kapoor and Sebastian Scherer},
      booktitle={IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)},
      year={2020}
}

Desideriamo ringraziare i creatori di TartanAir per aver reso disponibile questo diversificato dataset sintetico alla comunità della computer vision.

FAQ#