Chuyển đến nội dung

Bộ dữ liệu xView

Bộ dữ liệu xView là một trong những bộ dữ liệu ảnh chụp từ trên không lớn nhất hiện có, chứa hình ảnh từ các cảnh phức tạp trên khắp thế giới được chú thích bằng bounding box. Mục tiêu của bộ dữ liệu xView là đẩy nhanh tiến độ trong bốn lĩnh vực thị giác máy tính:

  1. Giảm độ phân giải tối thiểu để phát hiện.
  2. Cải thiện hiệu quả học tập.
  3. Cho phép khám phá thêm các lớp đối tượng.
  4. Cải thiện khả năng phát hiện các lớp chi tiết.

xView xây dựng dựa trên thành công của các thử thách như Common Objects in Context (COCO) và nhằm mục đích tận dụng thị giác máy tính để phân tích lượng hình ảnh ngày càng tăng có sẵn từ không gian nhằm hiểu thế giới trực quan theo những cách mới và giải quyết một loạt các ứng dụng quan trọng.

Yêu cầu tải xuống thủ công

Ultralytics không tự động tải xuống bộ dữ liệu xView. Bạn phải tự tải xuống bộ dữ liệu trước từ nguồn chính thức:

Quan trọng: Sau khi tải xuống các tệp cần thiết (ví dụ: train_images.tif, val_images.tif, xView_train.geojson), bạn cần giải nén chúng và đặt chúng vào cấu trúc thư mục chính xác, thường được mong đợi trong một datasets/xView/ thư mục, trước chạy các lệnh đào tạo được cung cấp bên dưới. Đảm bảo bộ dữ liệu được thiết lập đúng theo hướng dẫn của thử thách.

Các tính năng chính

  • xView chứa hơn 1 triệu đối tượng trong 60 lớp.
  • Bộ dữ liệu có độ phân giải 0,3 mét, cung cấp hình ảnh có độ phân giải cao hơn so với hầu hết các bộ dữ liệu hình ảnh vệ tinh công khai.
  • xView có một bộ sưu tập đa dạng các đối tượng nhỏ, hiếm, chi tiết và đa dạng với chú thích bounding box.
  • Đi kèm với một mô hình cơ sở được đào tạo trước bằng API phát hiện đối tượng TensorFlow và một ví dụ cho PyTorch.

Cấu trúc bộ dữ liệu

Bộ dữ liệu xView bao gồm các hình ảnh vệ tinh được thu thập từ vệ tinh WorldView-3 ở khoảng cách mẫu mặt đất 0,3m. Nó chứa hơn 1 triệu đối tượng trên 60 lớp trong hơn 1.400 km² hình ảnh. Bộ dữ liệu này đặc biệt có giá trị cho các ứng dụng viễn thám và giám sát môi trường.

Các ứng dụng

Bộ dữ liệu xView được sử dụng rộng rãi để huấn luyện và đánh giá các mô hình học sâu để phát hiện đối tượng trong hình ảnh trên không. Tập hợp đa dạng các lớp đối tượng và hình ảnh có độ phân giải cao của bộ dữ liệu làm cho nó trở thành một nguồn tài nguyên có giá trị cho các nhà nghiên cứu và người thực hành trong lĩnh vực thị giác máy tính, đặc biệt là để phân tích hình ảnh vệ tinh. Các ứng dụng bao gồm:

  • Trinh sát quân sự và quốc phòng
  • Quy hoạch và phát triển đô thị
  • Giám sát môi trường
  • Ứng phó và đánh giá thảm họa
  • Lập bản đồ và quản lý cơ sở hạ tầng

YAML bộ dữ liệu

Một tệp YAML (Yet Another Markup Language) được sử dụng để xác định cấu hình bộ dữ liệu. Nó chứa thông tin về đường dẫn, lớp và thông tin liên quan khác của bộ dữ liệu. Trong trường hợp bộ dữ liệu xView, thì xView.yaml tệp được duy trì tại https://github.com/ultralytics/ultralytics/blob/main/ultralytics/cfg/datasets/xView.yaml.

ultralytics/cfg/datasets/xView.yaml

# Ultralytics 🚀 AGPL-3.0 License - https://ultralytics.com/license

# DIUx xView 2018 Challenge https://challenge.xviewdataset.org by U.S. National Geospatial-Intelligence Agency (NGA)
# --------  DOWNLOAD DATA MANUALLY and jar xf val_images.zip to 'datasets/xView' before running train command!  --------
# Documentation: https://docs.ultralytics.com/datasets/detect/xview/
# Example usage: yolo train data=xView.yaml
# parent
# ├── ultralytics
# └── datasets
#     └── xView ← downloads here (20.7 GB)

# Train/val/test sets as 1) dir: path/to/imgs, 2) file: path/to/imgs.txt, or 3) list: [path/to/imgs1, path/to/imgs2, ..]
path: xView # dataset root dir
train: images/autosplit_train.txt # train images (relative to 'path') 90% of 847 train images
val: images/autosplit_val.txt # train images (relative to 'path') 10% of 847 train images

# Classes
names:
  0: Fixed-wing Aircraft
  1: Small Aircraft
  2: Cargo Plane
  3: Helicopter
  4: Passenger Vehicle
  5: Small Car
  6: Bus
  7: Pickup Truck
  8: Utility Truck
  9: Truck
  10: Cargo Truck
  11: Truck w/Box
  12: Truck Tractor
  13: Trailer
  14: Truck w/Flatbed
  15: Truck w/Liquid
  16: Crane Truck
  17: Railway Vehicle
  18: Passenger Car
  19: Cargo Car
  20: Flat Car
  21: Tank car
  22: Locomotive
  23: Maritime Vessel
  24: Motorboat
  25: Sailboat
  26: Tugboat
  27: Barge
  28: Fishing Vessel
  29: Ferry
  30: Yacht
  31: Container Ship
  32: Oil Tanker
  33: Engineering Vehicle
  34: Tower crane
  35: Container Crane
  36: Reach Stacker
  37: Straddle Carrier
  38: Mobile Crane
  39: Dump Truck
  40: Haul Truck
  41: Scraper/Tractor
  42: Front loader/Bulldozer
  43: Excavator
  44: Cement Mixer
  45: Ground Grader
  46: Hut/Tent
  47: Shed
  48: Building
  49: Aircraft Hangar
  50: Damaged Building
  51: Facility
  52: Construction Site
  53: Vehicle Lot
  54: Helipad
  55: Storage Tank
  56: Shipping container lot
  57: Shipping Container
  58: Pylon
  59: Tower

# Download script/URL (optional) ---------------------------------------------------------------------------------------
download: |
  import json
  import os
  from pathlib import Path

  import numpy as np
  from PIL import Image

  from ultralytics.utils import TQDM
  from ultralytics.data.split import autosplit
  from ultralytics.utils.ops import xyxy2xywhn


  def convert_labels(fname=Path("xView/xView_train.geojson")):
      """Converts xView geoJSON labels to YOLO format, mapping classes to indices 0-59 and saving as text files."""
      path = fname.parent
      with open(fname, encoding="utf-8") as f:
          print(f"Loading {fname}...")
          data = json.load(f)

      # Make dirs
      labels = Path(path / "labels" / "train")
      os.system(f"rm -rf {labels}")
      labels.mkdir(parents=True, exist_ok=True)

      # xView classes 11-94 to 0-59
      xview_class2index = [-1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, 0, 1, 2, -1, 3, -1, 4, 5, 6, 7, 8, -1, 9, 10, 11,
                           12, 13, 14, 15, -1, -1, 16, 17, 18, 19, 20, 21, 22, -1, 23, 24, 25, -1, 26, 27, -1, 28, -1,
                           29, 30, 31, 32, 33, 34, 35, 36, 37, -1, 38, 39, 40, 41, 42, 43, 44, 45, -1, -1, -1, -1, 46,
                           47, 48, 49, -1, 50, 51, -1, 52, -1, -1, -1, 53, 54, -1, 55, -1, -1, 56, -1, 57, -1, 58, 59]

      shapes = {}
      for feature in TQDM(data["features"], desc=f"Converting {fname}"):
          p = feature["properties"]
          if p["bounds_imcoords"]:
              id = p["image_id"]
              file = path / "train_images" / id
              if file.exists():  # 1395.tif missing
                  try:
                      box = np.array([int(num) for num in p["bounds_imcoords"].split(",")])
                      assert box.shape[0] == 4, f"incorrect box shape {box.shape[0]}"
                      cls = p["type_id"]
                      cls = xview_class2index[int(cls)]  # xView class to 0-60
                      assert 59 >= cls >= 0, f"incorrect class index {cls}"

                      # Write YOLO label
                      if id not in shapes:
                          shapes[id] = Image.open(file).size
                      box = xyxy2xywhn(box[None].astype(np.float), w=shapes[id][0], h=shapes[id][1], clip=True)
                      with open((labels / id).with_suffix(".txt"), "a", encoding="utf-8") as f:
                          f.write(f"{cls} {' '.join(f'{x:.6f}' for x in box[0])}\n")  # write label.txt
                  except Exception as e:
                      print(f"WARNING: skipping one label for {file}: {e}")


  # Download manually from https://challenge.xviewdataset.org
  dir = Path(yaml["path"])  # dataset root dir
  # urls = [
  #     "https://d307kc0mrhucc3.cloudfront.net/train_labels.zip",  # train labels
  #     "https://d307kc0mrhucc3.cloudfront.net/train_images.zip",  # 15G, 847 train images
  #     "https://d307kc0mrhucc3.cloudfront.net/val_images.zip",  # 5G, 282 val images (no labels)
  # ]
  # download(urls, dir=dir)

  # Convert labels
  convert_labels(dir / "xView_train.geojson")

  # Move images
  images = Path(dir / "images")
  images.mkdir(parents=True, exist_ok=True)
  Path(dir / "train_images").rename(dir / "images" / "train")
  Path(dir / "val_images").rename(dir / "images" / "val")

  # Split
  autosplit(dir / "images" / "train")

Cách sử dụng

Để huấn luyện một mô hình trên bộ dữ liệu xView trong 100 epochs với kích thước ảnh 640, bạn có thể sử dụng các đoạn mã sau. Để có danh sách đầy đủ các đối số có sẵn, hãy tham khảo trang Huấn luyện của mô hình.

Ví dụ huấn luyện

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load a pretrained model (recommended for training)

# Train the model
results = model.train(data="xView.yaml", epochs=100, imgsz=640)

# Start training from a pretrained *.pt model
yolo detect train data=xView.yaml model=yolo11n.pt epochs=100 imgsz=640

Dữ liệu mẫu và Chú thích

Bộ dữ liệu xView chứa các hình ảnh vệ tinh có độ phân giải cao với một tập hợp đa dạng các đối tượng được chú thích bằng các hộp giới hạn. Dưới đây là một số ví dụ về dữ liệu từ bộ dữ liệu, cùng với các chú thích tương ứng của chúng:

Ảnh mẫu bộ dữ liệu

  • Ảnh chụp từ trên cao: Hình ảnh này minh họa một ví dụ về phát hiện đối tượng trong ảnh chụp từ trên cao, trong đó các đối tượng được chú thích bằng các hộp giới hạn. Bộ dữ liệu cung cấp hình ảnh vệ tinh có độ phân giải cao để tạo điều kiện phát triển các mô hình cho tác vụ này.

Ví dụ này thể hiện sự đa dạng và phức tạp của dữ liệu trong bộ dữ liệu xView và làm nổi bật tầm quan trọng của hình ảnh vệ tinh chất lượng cao cho các tác vụ phát hiện đối tượng.

Nếu bạn đang làm việc với hình ảnh vệ tinh, bạn cũng có thể quan tâm đến việc khám phá các bộ dữ liệu liên quan sau:

  • DOTA-v2: Một bộ dữ liệu để phát hiện đối tượng có hướng trong ảnh chụp từ trên không
  • VisDrone: Một bộ dữ liệu để phát hiện và theo dõi đối tượng trong ảnh chụp từ máy bay không người lái
  • Argoverse: Một bộ dữ liệu cho lái xe tự động với các chú thích theo dõi 3D

Trích dẫn và Lời cảm ơn

Nếu bạn sử dụng bộ dữ liệu xView trong công việc nghiên cứu hoặc phát triển của mình, vui lòng trích dẫn bài báo sau:

@misc{lam2018xview,
      title={xView: Objects in Context in Overhead Imagery},
      author={Darius Lam and Richard Kuzma and Kevin McGee and Samuel Dooley and Michael Laielli and Matthew Klaric and Yaroslav Bulatov and Brendan McCord},
      year={2018},
      eprint={1802.07856},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}

Chúng tôi xin ghi nhận công của Defense Innovation Unit (DIU) và những người tạo ra bộ dữ liệu xView vì những đóng góp giá trị của họ cho cộng đồng nghiên cứu thị giác máy tính. Để biết thêm thông tin về bộ dữ liệu xView và những người tạo ra nó, hãy truy cập trang web của bộ dữ liệu xView.

Câu hỏi thường gặp

Tập dữ liệu xView là gì và nó mang lại lợi ích gì cho nghiên cứu về thị giác máy tính?

Bộ dữ liệu xView là một trong những bộ sưu tập hình ảnh chụp từ trên không có độ phân giải cao lớn nhất hiện có, chứa hơn 1 triệu đối tượng thuộc 60 lớp. Nó được thiết kế để tăng cường các khía cạnh khác nhau của nghiên cứu thị giác máy tính, chẳng hạn như giảm độ phân giải tối thiểu để phát hiện, cải thiện hiệu quả học tập, khám phá thêm các lớp đối tượng và nâng cao khả năng phát hiện đối tượng chi tiết.

Làm thế nào để sử dụng Ultralytics YOLO để huấn luyện mô hình trên bộ dữ liệu xView?

Để huấn luyện một mô hình trên bộ dữ liệu xView bằng Ultralytics YOLO, hãy làm theo các bước sau:

Ví dụ huấn luyện

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load a pretrained model (recommended for training)

# Train the model
results = model.train(data="xView.yaml", epochs=100, imgsz=640)

# Start training from a pretrained *.pt model
yolo detect train data=xView.yaml model=yolo11n.pt epochs=100 imgsz=640

Để biết chi tiết về các đối số và cài đặt, hãy tham khảo trang Huấn luyện mô hình.

Các tính năng chính của bộ dữ liệu xView là gì?

Bộ dữ liệu xView nổi bật nhờ tập hợp các tính năng toàn diện của nó:

  • Hơn 1 triệu đối tượng trên 60 lớp riêng biệt.
  • Hình ảnh độ phân giải cao ở 0.3 mét.
  • Các loại đối tượng đa dạng bao gồm các đối tượng nhỏ, hiếm và chi tiết, tất cả đều được chú thích bằng các hộp giới hạn.
  • Tính khả dụng của mô hình cơ sở được huấn luyện trước và các ví dụ trong TensorFlow và PyTorch.

Cấu trúc tập dữ liệu của xView là gì và nó được chú thích như thế nào?

Bộ dữ liệu xView chứa hình ảnh vệ tinh độ phân giải cao được chụp bởi vệ tinh WorldView-3 ở khoảng cách mẫu mặt đất 0,3m, bao phủ hơn 1 triệu đối tượng trên 60 lớp riêng biệt trong khoảng 1.400 km² hình ảnh được chú thích. Mỗi đối tượng được gắn nhãn bằng các hộp giới hạn, làm cho bộ dữ liệu này rất phù hợp để huấn luyện và đánh giá các mô hình học sâu để phát hiện đối tượng trong chế độ xem từ trên cao. Để biết phân tích chi tiết, hãy tham khảo phần Cấu trúc Bộ dữ liệu.

Làm cách nào để trích dẫn bộ dữ liệu xView trong nghiên cứu của tôi?

Nếu bạn sử dụng bộ dữ liệu xView trong nghiên cứu của mình, vui lòng trích dẫn bài báo sau:

@misc{lam2018xview,
    title={xView: Objects in Context in Overhead Imagery},
    author={Darius Lam and Richard Kuzma and Kevin McGee and Samuel Dooley and Michael Laielli and Matthew Klaric and Yaroslav Bulatov and Brendan McCord},
    year={2018},
    eprint={1802.07856},
    archivePrefix={arXiv},
    primaryClass={cs.CV}
}

Để biết thêm thông tin về bộ dữ liệu xView, hãy truy cập trang web chính thức của bộ dữ liệu xView.



📅 Đã tạo 1 năm trước ✏️ Cập nhật 5 tháng trước
glenn-jocher UltralyticsAssistant MatthewNoyce RizwanMunawar jk4e Laughing-q

Bình luận