xView Dataset
Набор данных xView - это один из крупнейших общедоступных наборов данных накладных изображений, содержащий изображения сложных сцен по всему миру, аннотированные с помощью ограничительных боксов. Цель создания набора данных xView - ускорить прогресс в четырех направлениях компьютерного зрения:
- Уменьши минимальное разрешение для обнаружения.
- Повысь эффективность обучения.
- Позволяет обнаружить больше классов объектов.
- Улучши обнаружение мелкодисперсных классов.
xView опирается на успех таких задач, как Common Objects in Context (COCO), и нацелен на использование компьютерного зрения для анализа растущего количества доступных снимков из космоса, чтобы по-новому понять визуальный мир и решить ряд важных задач.
Основные характеристики
- xView содержит более 1 миллиона экземпляров объектов, относящихся к 60 классам.
- Разрешение набора данных составляет 0,3 метра, что обеспечивает более высокое разрешение снимков, чем у большинства публичных наборов спутниковых снимков.
- В xView собрана разнообразная коллекция мелких, редких, мелкозернистых и разнотипных объектов с аннотацией ограничительных рамок.
- В комплект входит предварительно обученная базовая модель, использующая API обнаружения объектов TensorFlow , и пример для PyTorch.
Структура набора данных
Набор данных xView состоит из спутниковых снимков, полученных со спутников WorldView-3 на расстоянии 0,3 м от земли. Он содержит более 1 миллиона объектов 60 классов на площади более 1 400 км².
Приложения
Набор данных xView широко используется для обучения и оценки моделей глубокого обучения для обнаружения объектов на снимках сверху. Разнообразный набор классов объектов и высокое разрешение снимков делают набор данных ценным ресурсом для исследователей и практиков в области компьютерного зрения, особенно для анализа спутниковых снимков.
Набор данных YAML
Для определения конфигурации набора данных используется файл YAML (Yet Another Markup Language). В нем содержится информация о путях, классах и другой необходимой информации о наборе данных. В случае с набором данных xView это xView.yaml файл хранится по адресу https://github.com/ultralytics/ultralytics/blob/main/ultralytics/cfg/datasets/xView.yaml.
ultralytics/cfg/datasets/xView.yaml
# Ultralytics YOLO 🚀, AGPL-3.0 license
# DIUx xView 2018 Challenge https://challenge.xviewdataset.org by U.S. National Geospatial-Intelligence Agency (NGA)
# -------- DOWNLOAD DATA MANUALLY and jar xf val_images.zip to 'datasets/xView' before running train command! --------
# Documentation: https://docs.ultralytics.com/datasets/detect/xview/
# Example usage: yolo train data=xView.yaml
# parent
# ├── ultralytics
# └── datasets
# └── xView ← downloads here (20.7 GB)
# Train/val/test sets as 1) dir: path/to/imgs, 2) file: path/to/imgs.txt, or 3) list: [path/to/imgs1, path/to/imgs2, ..]
path: ../datasets/xView # dataset root dir
train: images/autosplit_train.txt # train images (relative to 'path') 90% of 847 train images
val: images/autosplit_val.txt # train images (relative to 'path') 10% of 847 train images
# Classes
names:
0: Fixed-wing Aircraft
1: Small Aircraft
2: Cargo Plane
3: Helicopter
4: Passenger Vehicle
5: Small Car
6: Bus
7: Pickup Truck
8: Utility Truck
9: Truck
10: Cargo Truck
11: Truck w/Box
12: Truck Tractor
13: Trailer
14: Truck w/Flatbed
15: Truck w/Liquid
16: Crane Truck
17: Railway Vehicle
18: Passenger Car
19: Cargo Car
20: Flat Car
21: Tank car
22: Locomotive
23: Maritime Vessel
24: Motorboat
25: Sailboat
26: Tugboat
27: Barge
28: Fishing Vessel
29: Ferry
30: Yacht
31: Container Ship
32: Oil Tanker
33: Engineering Vehicle
34: Tower crane
35: Container Crane
36: Reach Stacker
37: Straddle Carrier
38: Mobile Crane
39: Dump Truck
40: Haul Truck
41: Scraper/Tractor
42: Front loader/Bulldozer
43: Excavator
44: Cement Mixer
45: Ground Grader
46: Hut/Tent
47: Shed
48: Building
49: Aircraft Hangar
50: Damaged Building
51: Facility
52: Construction Site
53: Vehicle Lot
54: Helipad
55: Storage Tank
56: Shipping container lot
57: Shipping Container
58: Pylon
59: Tower
# Download script/URL (optional) ---------------------------------------------------------------------------------------
download: |
import json
import os
from pathlib import Path
import numpy as np
from PIL import Image
from tqdm import tqdm
from ultralytics.data.utils import autosplit
from ultralytics.utils.ops import xyxy2xywhn
def convert_labels(fname=Path('xView/xView_train.geojson')):
# Convert xView geoJSON labels to YOLO format
path = fname.parent
with open(fname) as f:
print(f'Loading {fname}...')
data = json.load(f)
# Make dirs
labels = Path(path / 'labels' / 'train')
os.system(f'rm -rf {labels}')
labels.mkdir(parents=True, exist_ok=True)
# xView classes 11-94 to 0-59
xview_class2index = [-1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, 0, 1, 2, -1, 3, -1, 4, 5, 6, 7, 8, -1, 9, 10, 11,
12, 13, 14, 15, -1, -1, 16, 17, 18, 19, 20, 21, 22, -1, 23, 24, 25, -1, 26, 27, -1, 28, -1,
29, 30, 31, 32, 33, 34, 35, 36, 37, -1, 38, 39, 40, 41, 42, 43, 44, 45, -1, -1, -1, -1, 46,
47, 48, 49, -1, 50, 51, -1, 52, -1, -1, -1, 53, 54, -1, 55, -1, -1, 56, -1, 57, -1, 58, 59]
shapes = {}
for feature in tqdm(data['features'], desc=f'Converting {fname}'):
p = feature['properties']
if p['bounds_imcoords']:
id = p['image_id']
file = path / 'train_images' / id
if file.exists(): # 1395.tif missing
try:
box = np.array([int(num) for num in p['bounds_imcoords'].split(",")])
assert box.shape[0] == 4, f'incorrect box shape {box.shape[0]}'
cls = p['type_id']
cls = xview_class2index[int(cls)] # xView class to 0-60
assert 59 >= cls >= 0, f'incorrect class index {cls}'
# Write YOLO label
if id not in shapes:
shapes[id] = Image.open(file).size
box = xyxy2xywhn(box[None].astype(np.float), w=shapes[id][0], h=shapes[id][1], clip=True)
with open((labels / id).with_suffix('.txt'), 'a') as f:
f.write(f"{cls} {' '.join(f'{x:.6f}' for x in box[0])}\n") # write label.txt
except Exception as e:
print(f'WARNING: skipping one label for {file}: {e}')
# Download manually from https://challenge.xviewdataset.org
dir = Path(yaml['path']) # dataset root dir
# urls = ['https://d307kc0mrhucc3.cloudfront.net/train_labels.zip', # train labels
# 'https://d307kc0mrhucc3.cloudfront.net/train_images.zip', # 15G, 847 train images
# 'https://d307kc0mrhucc3.cloudfront.net/val_images.zip'] # 5G, 282 val images (no labels)
# download(urls, dir=dir)
# Convert labels
convert_labels(dir / 'xView_train.geojson')
# Move images
images = Path(dir / 'images')
images.mkdir(parents=True, exist_ok=True)
Path(dir / 'train_images').rename(dir / 'images' / 'train')
Path(dir / 'val_images').rename(dir / 'images' / 'val')
# Split
autosplit(dir / 'images' / 'train')
Использование
Чтобы обучить модель на наборе данных xView в течение 100 эпох с размером изображения 640, ты можешь воспользоваться следующими фрагментами кода. Полный список доступных аргументов ты найдешь на странице обучения модели.
Пример поезда
Образцы данных и аннотации
Набор данных xView содержит спутниковые снимки высокого разрешения с разнообразным набором объектов, аннотированных с помощью ограничительных рамок. Вот несколько примеров данных из этого набора, а также соответствующие им аннотации:
- Накладные снимки: Это изображение демонстрирует пример обнаружения объектов на накладных снимках, где объекты аннотированы ограничительными рамками. В наборе данных представлены спутниковые снимки высокого разрешения, что облегчает разработку моделей для этой задачи.
Этот пример демонстрирует разнообразие и сложность данных в наборе данных xView и подчеркивает важность высококачественных спутниковых снимков для задач обнаружения объектов.
Цитаты и благодарности
Если ты используешь набор данных xView в своих исследованиях или разработках, пожалуйста, ссылайся на следующую статью:
@misc{lam2018xview,
title={xView: Objects in Context in Overhead Imagery},
author={Darius Lam and Richard Kuzma and Kevin McGee and Samuel Dooley and Michael Laielli and Matthew Klaric and Yaroslav Bulatov and Brendan McCord},
year={2018},
eprint={1802.07856},
archivePrefix={arXiv},
primaryClass={cs.CV}
}
Мы хотели бы выразить благодарность оборонному инновационному подразделению (DIU) и создателям набора данных xView за их ценный вклад в сообщество исследователей компьютерного зрения. Более подробную информацию о наборе данных xView и его создателях можно найти на сайте xView dataset.