Набор данных xView#
Датасет xView — это один из крупнейших общедоступных бенчмарков спутниковых снимков для object detection, содержащий более 1 миллиона экземпляров объектов 60 классов с разметкой bounding boxes на снимках WorldView-3 с разрешением 0,3 м общей площадью более 1400 км². Он был выпущен для соревнования DIUx xView 2018 Challenge Национальным агентством геопространственной разведки США (NGA) и требует ручной загрузки объемом около 20,7 ГБ.
Датасет был создан для продвижения четырех рубежей в области computer vision:
- Снижение минимального разрешения для детекции.
- Повышение эффективности обучения.
- Обеспечение обнаружения большего количества классов объектов.
- Улучшение детекции мелкозернистых классов.
Опираясь на такие бенчмарки, как COCO, xView ориентирован на аэрофотоснимки и спутниковые изображения, где объекты значительно мельче и расположены гораздо плотнее, чем на наземных фотографиях.
Датасет xView не скачивается автоматически. Зарегистрируйся на сайте DIUx xView 2018 Challenge, чтобы скачать train_images.zip (~15 ГБ), train_labels.zip и val_images.zip (~5 ГБ), а затем распакуй их в папку datasets/xView/ так, чтобы она содержала:
datasets/xView/
├── train_images/ # 847 TIF satellite images
├── val_images/ # 282 TIF images (no public labels)
└── xView_train.geojson # bounding-box annotationsПри первом запуске обучения Ultralytics автоматически конвертирует аннотации GeoJSON в формат YOLO и разделяет размеченные изображения примерно в соотношении 90/10 на тренировочный и валидационный наборы — ручная конвертация не требуется.
Ключевые особенности#
- Мелкозернистые классы: 60 классов объектов, включающих самолеты, транспортные средства, железнодорожный состав, морские суда, строительную технику и здания — многие из них мелкие, редкие и визуально похожие.
- Высокое разрешение: расстояние на местности 0,3 м, полученное со спутников WorldView-3.
- Плотная аннотация: более 1 миллиона экземпляров объектов на площади более 1400 км², все размечены горизонтальными ограничивающими рамками.
- Автоматическое преобразование: скрипт загрузки Ultralytics преобразует исходные метки GeoJSON в формат YOLO и создает разделение на тренировочную/валидационную выборки при первом использовании.
Структура набора данных#
Изображения xView представляют собой крупные спутниковые сцены в формате TIF, причем публичные метки поставляются только для 847 тренировочных изображений — у валидационного набора соревнования из 282 изображений их нет. Конфигурация Ultralytics xView.yaml поэтому автоматически разделяет размеченные изображения при первом использовании:
| Split | Изображения | Описание |
|---|---|---|
| Обучение | ~90% от 847 | Размеченные изображения, перечисленные в autosplit_train.txt, создаются при первом запуске |
| Validation | ~10% от 847 | Размеченные изображения, перечисленные в autosplit_val.txt, используются для evaluation |
60 классов охватывают детализированные категории, такие как самолет с фиксированным крылом, грузовой самолет, легковой автомобиль, автобус, локомотив, морское судно, экскаватор, здание, ангар для самолетов и резервуар для хранения; полный список приведен в файле Dataset YAML ниже. Во время конвертации исходные идентификаторы классов соревнования (11–94) перемаппируются в непрерывные индексы 0–59.
Применение#
Детализированные классы xView и высокое разрешение вида сверху делают его стандартным бенчмарком для обучения и оценки моделей deep learning в remote sensing. Распространенные варианты применения включают:
- Военная и оборонная разведка
- Городское планирование и развитие
- Мониторинг окружающей среды
- Реагирование на стихийные бедствия и оценка ущерба
- Картографирование и управление инфраструктурой
Другие бенчмарки аэрофотоснимков см. в ориентированном на дроны датасете VisDrone dataset или в датасете с ориентированными боксами DOTA-v2 dataset.
YAML набора данных#
Файл xView.yaml определяет конфигурацию датасета — пути к данным, 60 названий классов и скрипт загрузки, который конвертирует аннотации GeoJSON и генерирует авторазбивку (autosplit). Он поддерживается в репозитории Ultralytics по адресу https://github.com/ultralytics/ultralytics/blob/main/ultralytics/cfg/datasets/xView.yaml.
# Ultralytics 🚀 AGPL-3.0 License - https://ultralytics.com/license
# DIUx xView 2018 Challenge dataset https://challenge.xviewdataset.org by U.S. National Geospatial-Intelligence Agency (NGA)
# -------- Download and extract data manually to `datasets/xView` before running the train command. --------
# Documentation: https://docs.ultralytics.com/datasets/detect/xview
# Example usage: yolo train data=xView.yaml
# parent
# ├── ultralytics
# └── datasets
# └── xView ← downloads here (20.7 GB)
# Train/val/test sets as 1) dir: path/to/imgs, 2) file: path/to/imgs.txt, or 3) list: [path/to/imgs1, path/to/imgs2, ..]
path: xView # dataset root dir
train: images/autosplit_train.txt # train images (relative to 'path') 90% of 847 train images
val: images/autosplit_val.txt # val images (relative to 'path') 10% of 847 train images
# Classes
names:
0: Fixed-wing Aircraft
1: Small Aircraft
2: Cargo Plane
3: Helicopter
4: Passenger Vehicle
5: Small Car
6: Bus
7: Pickup Truck
8: Utility Truck
9: Truck
10: Cargo Truck
11: Truck w/Box
12: Truck Tractor
13: Trailer
14: Truck w/Flatbed
15: Truck w/Liquid
16: Crane Truck
17: Railway Vehicle
18: Passenger Car
19: Cargo Car
20: Flat Car
21: Tank car
22: Locomotive
23: Maritime Vessel
24: Motorboat
25: Sailboat
26: Tugboat
27: Barge
28: Fishing Vessel
29: Ferry
30: Yacht
31: Container Ship
32: Oil Tanker
33: Engineering Vehicle
34: Tower crane
35: Container Crane
36: Reach Stacker
37: Straddle Carrier
38: Mobile Crane
39: Dump Truck
40: Haul Truck
41: Scraper/Tractor
42: Front loader/Bulldozer
43: Excavator
44: Cement Mixer
45: Ground Grader
46: Hut/Tent
47: Shed
48: Building
49: Aircraft Hangar
50: Damaged Building
51: Facility
52: Construction Site
53: Vehicle Lot
54: Helipad
55: Storage Tank
56: Shipping container lot
57: Shipping Container
58: Pylon
59: Tower
# Download script/URL (optional) ---------------------------------------------------------------------------------------
download: |
import json
from pathlib import Path
import shutil
import numpy as np
from PIL import Image
from ultralytics.utils import TQDM
from ultralytics.data.split import autosplit
from ultralytics.utils.ops import xyxy2xywhn
def convert_labels(fname=Path("xView/xView_train.geojson")):
"""Convert xView GeoJSON labels to YOLO format (classes 0-59) and save them as text files."""
path = fname.parent
with open(fname, encoding="utf-8") as f:
print(f"Loading {fname}...")
data = json.load(f)
# Make dirs
labels = path / "labels" / "train"
shutil.rmtree(labels, ignore_errors=True)
labels.mkdir(parents=True, exist_ok=True)
# xView classes 11-94 to 0-59
xview_class2index = [-1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, 0, 1, 2, -1, 3, -1, 4, 5, 6, 7, 8, -1, 9, 10, 11,
12, 13, 14, 15, -1, -1, 16, 17, 18, 19, 20, 21, 22, -1, 23, 24, 25, -1, 26, 27, -1, 28, -1,
29, 30, 31, 32, 33, 34, 35, 36, 37, -1, 38, 39, 40, 41, 42, 43, 44, 45, -1, -1, -1, -1, 46,
47, 48, 49, -1, 50, 51, -1, 52, -1, -1, -1, 53, 54, -1, 55, -1, -1, 56, -1, 57, -1, 58, 59]
shapes = {}
for feature in TQDM(data["features"], desc=f"Converting {fname}"):
p = feature["properties"]
if p["bounds_imcoords"]:
image_id = p["image_id"]
image_file = path / "train_images" / image_id
if image_file.exists(): # 1395.tif missing
try:
box = np.array([int(num) for num in p["bounds_imcoords"].split(",")])
assert box.shape[0] == 4, f"incorrect box shape {box.shape[0]}"
cls = p["type_id"]
cls = xview_class2index[int(cls)] # xView class to 0-59
assert 59 >= cls >= 0, f"incorrect class index {cls}"
# Write YOLO label
if image_id not in shapes:
shapes[image_id] = Image.open(image_file).size
box = xyxy2xywhn(box[None].astype(float), w=shapes[image_id][0], h=shapes[image_id][1], clip=True)
with open((labels / image_id).with_suffix(".txt"), "a", encoding="utf-8") as f:
f.write(f"{cls} {' '.join(f'{x:.6f}' for x in box[0])}\n") # write label.txt
except Exception as e:
print(f"WARNING: skipping one label for {image_file}: {e}")
# Download manually from https://challenge.xviewdataset.org
dir = Path(yaml["path"]) # dataset root dir
# urls = [
# "https://d307kc0mrhucc3.cloudfront.net/train_labels.zip", # train labels
# "https://d307kc0mrhucc3.cloudfront.net/train_images.zip", # 15G, 847 train images
# "https://d307kc0mrhucc3.cloudfront.net/val_images.zip", # 5G, 282 val images (no labels)
# ]
# download(urls, dir=dir)
# Convert labels
convert_labels(dir / "xView_train.geojson")
# Move images
images = Path(dir / "images")
images.mkdir(parents=True, exist_ok=True)
Path(dir / "train_images").rename(dir / "images" / "train")
Path(dir / "val_images").rename(dir / "images" / "val")
# Split
autosplit(dir / "images" / "train")Использование#
Для обучения предполагается, что скачанный вручную архив, описанный выше, распакован в datasets/xView/; после этого конвертация аннотаций и разделение на обучающую и валидационную выборки выполняются автоматически.
Чтобы обучить модель на датасете xView в течение 100 epochs с размером изображения 640, ты можешь использовать следующие фрагменты кода. Полный список доступных аргументов см. на странице Training модели.
from ultralytics import YOLO
# Load a model
model = YOLO("yolo26n.pt") # load a pretrained model (recommended for training)
# Train the model
results = model.train(data="xView.yaml", epochs=100, imgsz=640)Чтобы размечать дополнительные спутниковые изображения и управлять запусками обучения xView в своем браузере, используй Ultralytics Platform.
Примеры данных и разметки#
На приведенном ниже примере показана типичная сцена xView: аэрофотоснимки высокого разрешения, на которых мелкие объекты, такие как транспортные средства и здания, размечены ограничивающими прямоугольниками, что иллюстрирует, почему object detection на спутниковых снимках требует детальной локализации.
Цитирование и благодарности#
Если ты используешь набор данных xView в своих исследованиях или разработках, пожалуйста, сошлися на следующую статью:
@misc{lam2018xview,
title={xView: Objects in Context in Overhead Imagery},
author={Darius Lam and Richard Kuzma and Kevin McGee and Samuel Dooley and Michael Laielli and Matthew Klaric and Yaroslav Bulatov and Brendan McCord},
year={2018},
eprint={1802.07856},
archivePrefix={arXiv},
primaryClass={cs.CV}
}Мы выражаем признательность Defense Innovation Unit (DIU) и создателям датасета xView за их ценный вклад в сообщество исследователей компьютерного зрения. Дополнительную информацию см. на сайте датасета xView.
FAQ#
Датасет xView представляет собой бенчмарк спутниковых снимков, выпущенный для соревнования DIUx xView 2018 Challenge Национальным агентством геопространственной разведки США и содержащий более 1 миллиона экземпляров объектов по 60 детализированным классам на снимках WorldView-3 с разрешением 0,3 м. Он поддерживает исследования по обнаружению мелких, редких и детализированных объектов на аэрофотоснимках, которые представляют собой гораздо более сложные цели, чем объекты на наземных фотографиях.
Для xView требуется ручная загрузка: зарегистрируйся на сайте DIUx xView 2018 Challenge, скачай
train_images.zip(~15 ГБ),train_labels.zipиval_images.zip(~5 ГБ) — всего около 20,7 ГБ — и распакуй их вdatasets/xView/, следуя структуре, показанной в предупреждении в верхней части этой страницы. При первом запуске обучения Ultralytics автоматически конвертирует аннотации GeoJSON в формат YOLO и создает обучающую/валидационную выборку.xView содержит 847 размеченных обучающих изображений и 282 валидационных изображения без общедоступных меток, снятых спутниками WorldView-3 с разрешением 0,3 м. Аннотации охватывают более 1 миллиона экземпляров объектов в 60 классах. Поскольку общедоступными являются только обучающие метки, конфигурация Ultralytics
xView.yamlделит 847 размеченных изображений примерно в соотношении 90/10 на обучающий и валидационный наборы; подробности см. в разделе Dataset Structure.Обучи модель YOLO26n на xView в течение 100 эпох с размером изображения 640:
Пример обученияfrom ultralytics import YOLO # Load a model model = YOLO("yolo26n.pt") # load a pretrained model (recommended for training) # Train the model results = model.train(data="xView.yaml", epochs=100, imgsz=640)Подробные аргументы и настройки см. на странице Training модели.
Процитируй статью "xView: Objects in Context in Overhead Imagery" (Lam et al., arXiv:1802.07856, 2018); полная запись BibTeX находится в разделе Citations and Acknowledgments выше.