Ultralytics YOLO27:
CC BY-NC-SA 3.0

Dataset di profondità KITTI#

Il set di dati KITTI è un benchmark di guida autonoma all'aperto nel mondo reale, catturato da un veicolo in movimento nella città di Karlsruhe e nei dintorni. Per la stima della profondità monoculare, la profondità di riferimento (ground truth) viene ottenuta da uno scanner LiDAR Velodyne HDL-64 e densificata utilizzando il metodo di Uhrig et al. 2017. Le mappe di profondità risultanti rimangono sparse, con circa il 16-20% dei pixel che trasporta un valore di profondità valido. KITTI è la vera fonte di guida all'aperto nel mix di preaddestramento di YOLO26-Depth e funge anche da benchmark di valutazione KITTI Eigen.

Funzionalità principali#

  • Scene di guida reali all'aperto, con profondità che arrivano a circa 80 m, ben oltre la portata tipica degli ambienti interni.
  • Ground truth della profondità ottenuta da un LiDAR Velodyne HDL-64 e resa più densa con l'approccio Sparsity Invariant CNNs di Uhrig et al. 2017.
  • Supervisione sparsa: solo circa il 16–20% dei pixel per immagine contiene un valore di profondità valido; i pixel non validi vengono esclusi dalla loss e dalle metriche tramite una maschera.
  • Le coppie di immagini stereo (sinistra image_02 e destra image_03) forniscono punti di vista aggiuntivi per il training.
  • I valori di profondità sono memorizzati come PNG uint16 con 256 unità per metro (depth_scale: 256), seguendo il formato dei dataset di profondità di Ultralytics.

Struttura del dataset#

I dati di profondità KITTI utilizzati da Ultralytics sono suddivisi in due subset:

  1. Suddivisione di training: 55.198 immagini (sinistra image_02 e destra image_03). Tutti i 28 test drive KITTI Eigen sono esclusi dal training per mantenere equa la valutazione.
  2. Suddivisione di valutazione: la suddivisione di test KITTI Eigen — i suoi 652 frame della telecamera sinistra con ground truth migliorata. La valutazione utilizza un limite di profondità di 80 m e un allineamento mediano (solo di scala) tra predizioni e ground truth.

L'intervallo di profondità raggiunge circa 80 m e il file YAML del dataset (depth-kitti.yaml) imposta di conseguenza max_depth: 80.

Ruolo in YOLO26-Depth#

KITTI fornisce una supervisione reale della guida all'aperto nel mix di preaddestramento di YOLO26-Depth, integrando le fonti prevalentemente indoor. È anche il benchmark standard KITTI Eigen per la misurazione dell'accuratezza della profondità delle scene di guida.

KITTI è un esempio chiave del motivo per cui la depth head è non vincolata (log mode): un limite superiore fisso dell'output di 10 m non può rappresentare scene di guida a 80 m. Consulta la pagina dell'attività di profondità per informazioni dettagliate sull'intervallo dell'output della head e sulla gestione di max_depth.

Risultati#

Accuratezza KITTI Eigen delta1 in base alle dimensioni del modello (valori maggiori indicano prestazioni migliori):

ModelloKITTI Eigen δ1
YOLO26n-Depth0.878
YOLO26s-Depth0.879
YOLO26m-Depth0.913
YOLO26l-Depth0.926
YOLO26x-Depth0.932

Misurato sulla divisione canonica di 652 fotogrammi con imgsz=768 e rect=False. Non sono direttamente comparabili con i numeri KITTI pubblicati: il set di convalida estende ciascuna immagine a un formato quadrato imgsz e ricampiona con il vicino più vicino la ground truth sparsa su di essa, laddove i valutatori di riferimento invece ridimensionano la predizione alla risoluzione della ground truth nativa; DepthMetrics maschera la ground truth contro max_depth dove il protocollo di ground truth migliorata maschera gt > 0 e limita solo la predizione; e i pesi rilasciati sono stati addestrati con la divisione precedente, che ha inserito 72 di questi fotogrammi di test nel set di addestramento.

YAML del dataset#

Un file YAML viene utilizzato per definire la configurazione del set di dati. Esso contiene informazioni sui percorsi, sulle classi e su altre informazioni rilevanti del set di dati, come la profondità massima.

ultralytics/cfg/datasets/depth-kitti.yaml
# Ultralytics 🚀 AGPL-3.0 License - https://ultralytics.com/license

# KITTI dataset for monocular depth estimation — real outdoor driving, Velodyne HDL-64 LiDAR (densified), sparse, up to ~80 m
# Documentation: https://docs.ultralytics.com/datasets/depth/kitti
# Example usage: yolo depth train data=depth-kitti.yaml model=yolo26n-depth.pt
# parent
# ├── ultralytics
# └── datasets
#     └── depth-kitti  ← downloads here (~190 GB archives, ~140 GB converted)
#         ├── images/{train,val}  # RGB images
#         └── depth/{train,val}   # paired 16-bit *.png depth maps (images/ -> depth/)
# If an interrupted download leaves a partial dataset, delete the depth-kitti dir and re-run to rebuild it.
# The download only runs when the val images are missing (train is never checked), so a depth-kitti dir
# built before this split fix keeps the old split until it is deleted and rebuilt.

path: depth-kitti # dataset root dir (relative to Ultralytics settings 'datasets_dir')
train: images/train # train images (relative to 'path') 55198 images
val: images/val # val images (relative to 'path') 652 images (KITTI Eigen test split, left camera)
max_depth: 80 # (m) maximum valid depth; GT beyond this is excluded from val metrics

nc: 1
names:
  0: depth

channels: 3
depth_scale: 256 # KITTI PNG value 256 = 1 meter

# Download script/URL (optional)
download: |
  import shutil
  from pathlib import Path

  from ultralytics.utils import TQDM
  from ultralytics.utils.downloads import download

  # The 28 KITTI Eigen test scenes as "<drive> <frame indices>" -> val; every other annotated drive -> train. val is
  # the 697-frame Eigen et al. (NeurIPS 2014) test split restricted to frames with improved GT here: 652 left-camera.
  EIGEN_TEST = """
  2011_09_26_drive_0002 6 9 12 15 18 21 24 27 30 33 36 39 42 45 48 51 54 57 60 63 69
  2011_09_26_drive_0009 16 32 48 64 80 96 112 128 144 160 176 196 212 228 244 260 276 292 308 324 340 356 372 388
  2011_09_26_drive_0013 5 10 20 30 35 40 45 50 60 65 70 80 85 90 95 100 105 110 115 120 125 130 135
  2011_09_26_drive_0020 6 9 12 15 18 21 27 33 36 42 45 48 51 54 57 60 63 66 69 72 75 78
  2011_09_26_drive_0023 18 36 54 72 90 108 126 144 162 180 198 216 252 270 288 306 324 342 360 378 396 414 432 450 468
  2011_09_26_drive_0027 7 14 21 28 35 42 49 56 63 70 77 84 91 98 112 119 126 133 140 147 161 168 175 182
  2011_09_26_drive_0029 14 28 42 56 70 84 98 112 126 140 154 168 182 196 268 296 310 324 338 352 366 380 394 408
  2011_09_26_drive_0036 32 64 96 128 160 192 224 256 288 320 352 384 416 448 480 512 544 576 608 640 672 704 768
  2011_09_26_drive_0046 5 10 15 20 25 30 35 40 45 50 55 60 65 70 75 80 85 90 95 100 105 110 115
  2011_09_26_drive_0048 5 6 7 8 9 10 11 12 13 14 15 16
  2011_09_26_drive_0052 6 8 10 12 14 16 18 20 22 26 28 30 32 36 38 40 42 44 46 48 50 52
  2011_09_26_drive_0056 11 22 33 44 55 66 77 88 99 110 121 143 154 165 176 187 198 209 220 231 242 253 264 275 286
  2011_09_26_drive_0059 14 28 42 56 70 84 98 112 126 140 154 182 196 210 224 238 274 288 302 316 330 344 358
  2011_09_26_drive_0064 22 44 66 88 110 154 176 198 220 242 264 286 308 330 352 374 396 418 440 462 484 506 528 550
  2011_09_26_drive_0084 49 62 75 88 101 114 127 140 153 179 192 205 218 231 244 257 270 283 296 309 322 335 348 361 374
  2011_09_26_drive_0086 7 34 61 88 115 142 169 196 223 250 277 304 331 358 385 412 439 466 493 520 574 601 628 655 682
  2011_09_26_drive_0093 16 32 48 64 80 96 112 128 144 160 176 192 208 224 240 256 305 321 337 353 369 385 401 417
  2011_09_26_drive_0096 19 38 57 76 95 114 133 152 171 190 209 228 247 266 285 304 323 342 361 380 399 418 437 456
  2011_09_26_drive_0101 80 114 148 182 216 284 318 352 386 420 454 488 522 556 590 624 658 692 726 760 794 828 862 896 930
  2011_09_26_drive_0106 15 35 43 51 59 67 75 83 91 99 107 115 123 131 139 147 155 163 171 179 187 195 203 211 219
  2011_09_26_drive_0117 26 52 78 104 130 156 182 208 234 260 286 312 338 364 390 416 442 468 494 546 572 598 624 650
  2011_09_28_drive_0002 6 9 12 18 21 24 30 33 36 39 45 48 51 54 57 60 63 72 78 81 84 87 90
  2011_09_29_drive_0071 36 72 108 144 180 216 252 288 324 360 396 432 468 504 540 576 612 735 771 807 879 915 951
  2011_09_30_drive_0016 11 22 33 44 55 66 77 88 110 121 132 143 154 165 176 187 198 209 220 231 242 253 264
  2011_09_30_drive_0018 107 214 428 535 642 749 856 963 1070 1177 1284 1391 1498 1605 1712 1819 1926 2033 2140 2247 2419 2526 2633 2740
  2011_09_30_drive_0027 41 82 123 164 205 246 287 328 369 410 451 492 533 574 615 656 753 794 835 876 917 958 1040 1081
  2011_10_03_drive_0027 181 362 543 734 915 1096 1277 1458 1639 1820 2001 2363 2544 2725 2906 3087 3268 3449 3630 3811 3992 4173 4354 4535
  2011_10_03_drive_0047 32 64 96 128 160 192 224 288 320 352 384 416 448 480 512 544 576 608 640 672 704 736 768 800"""
  EIGEN_TEST = {ln.split()[0]: {int(i) for i in ln.split()[1:]} for ln in EIGEN_TEST.strip().splitlines()}
  # Annotated drives excluded from the release training set (raw data was unavailable at build time)
  SKIP_DRIVES = {"2011_09_28_drive_0104", "2011_09_28_drive_0135", "2011_09_28_drive_0177", "2011_09_28_drive_0214"}

  # Download the improved sparse GT (~14 GB) and the raw recordings it covers (~175 GB)
  dir = Path(yaml["path"])  # dataset root dir
  base = "https://s3.eu-central-1.amazonaws.com/avg-kitti"
  download([f"{base}/data_depth_annotated.zip"], dir=dir / "source", delete=True, exist_ok=True)
  gt_drives = sorted(p for p in (dir / "source" / "data_depth_annotated").glob("*/*_sync") if p.name[:-5] not in SKIP_DRIVES)
  urls = [f"{base}/raw_data/{p.name[:-5]}/{p.name}.zip" for p in gt_drives]
  download(urls, dir=dir / "source" / "raw", delete=True, exist_ok=True, threads=4)

  # Convert: GT PNGs are uint16 meters*256; RGB frames come from the matching raw drive
  for split in ("train", "val"):
      (dir / "images" / split).mkdir(parents=True, exist_ok=True)
      (dir / "depth" / split).mkdir(parents=True, exist_ok=True)
  for gt in TQDM(gt_drives, desc="Converting"):
      drive = gt.name[:-5]  # 2011_09_26_drive_0002
      split = "val" if drive in EIGEN_TEST else "train"
      # val is the canonical Eigen test split: left camera only, and only its 652 listed frames
      for cam in ("image_02",) if split == "val" else ("image_02", "image_03"):
          for png in sorted((gt / "proj_depth" / "groundtruth" / cam).glob("*.png")):
              if split == "val" and int(png.stem) not in EIGEN_TEST[drive]:
                  continue
              name = f"{drive}_{cam[-2:]}_{png.stem}"
              png.replace(dir / "depth" / split / f"{name}.png")
              raw = dir / "source" / "raw" / drive[:10] / gt.name / cam / "data" / png.name
              raw.replace(dir / "images" / split / f"{name}.png")
  shutil.rmtree(dir / "source")

Utilizzo#

Per addestrare un modello YOLO26n-Depth sul dataset KITTI per 100 epoche, puoi utilizzare i seguenti frammenti di codice. Per un elenco completo degli argomenti disponibili, consulta la pagina di Training del modello.

Esempio di addestramento
from ultralytics import YOLO

# Load a pretrained depth model
model = YOLO("yolo26n-depth.pt")

# Train the model on KITTI
results = model.train(data="depth-kitti.yaml", epochs=100, imgsz=640)

Modelli pre-addestrati#

I modelli YOLO26-Depth preaddestrati vengono scaricati automaticamente dagli asset della release v8.4.0 di Ultralytics quando vengono referenziati per nome per la prima volta:

Citazioni e ringraziamenti#

Se utilizzi il dataset KITTI nelle tue attività di ricerca o sviluppo, cita i seguenti articoli:

Citazione
@article{geiger2013vision,
      title={Vision meets Robotics: The KITTI Dataset},
      author={Geiger, Andreas and Lenz, Philip and Stiller, Christoph and Urtasun, Raquel},
      journal={The International Journal of Robotics Research},
      year={2013},
      publisher={SAGE Publications}
}

@inproceedings{uhrig2017sparsity,
      title={Sparsity Invariant CNNs},
      author={Uhrig, Jonas and Schneider, Nick and Schneider, Lukas and Franke, Uwe and Brox, Thomas and Geiger, Andreas},
      booktitle={International Conference on 3D Vision (3DV)},
      year={2017}
}

Desideriamo ringraziare il Karlsruhe Institute of Technology e il Toyota Technological Institute at Chicago per aver creato e mantenuto il dataset KITTI, nonché Uhrig et al. per il metodo di densificazione della profondità che rende possibile la supervisione densa.

FAQ#

  • KITTI è la vera fonte di guida all'aperto nel mix di preaddestramento di YOLO26-Depth e funge anche da benchmark di valutazione KITTI Eigen. La profondità del suo LiDAR Velodyne raggiunge circa gli 80 m, motivo per cui la testina di profondità non ha limiti anziché essere limitata a un intervallo indoor fisso.

  • La configurazione di Ultralytics utilizza 55.198 immagini di addestramento provenienti dalle telecamere sinistra e destra, escludendo tutti i 28 test drive KITTI Eigen ed eseguendo la valutazione sui 652 fotogrammi di test Eigen della telecamera sinistra con ground truth migliorata. I file PNG di profondità utilizzano 256 unità per metro (depth_scale: 256) e il file YAML imposta max_depth: 80.

  • Esegui yolo depth train data=depth-kitti.yaml model=yolo26n-depth.pt epochs=100 imgsz=640, oppure usa l'esempio Python nella sezione Utilizzo. La pagina Addestramento elenca ogni argomento disponibile.

  • I valori in Results provengono dal validatore di Ultralytics con imgsz=768 e rect=False, il quale ridimensiona le immagini a un input quadrato, maschera la ground truth contro max_depth e calcola le metriche per immagine con l'allineamento della scala per immagine prima di mediarle sul set di convalida. I valutatori KITTI di riferimento utilizzano un protocollo diverso, quindi i numeri non sono direttamente comparabili.

Contributori
GLglenn-jocher5JEJESUSROYETH1BOBovey08091

Commenti