์ฝ˜ํ…์ธ ๋กœ ๊ฑด๋„ˆ๋›ฐ๊ธฐ

Roboflow 100 ๋ฐ์ดํ„ฐ ์„ธํŠธ

Roboflow 100์ด ๊ฐœ๋ฐœํ•˜๊ณ  Roboflow ์—์„œ ๊ฐœ๋ฐœํ•˜๊ณ  ์ธํ…”์ด ํ›„์›ํ•˜๋Š” ํš๊ธฐ์ ์ธ ๊ฐ์ฒด ํƒ์ง€ ๋ฒค์น˜๋งˆํฌ์ž…๋‹ˆ๋‹ค. ์—ฌ๊ธฐ์—๋Š” 90,000๊ฐœ ์ด์ƒ์˜ ๊ณต๊ฐœ ๋ฐ์ดํ„ฐ ์„ธํŠธ์—์„œ ์ƒ˜ํ”Œ๋ง๋œ 100๊ฐœ์˜ ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ ์„ธํŠธ๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ฒค์น˜๋งˆํฌ๋Š” ์˜๋ฃŒ, ํ•ญ๊ณต ์ด๋ฏธ์ง€, ๋น„๋””์˜ค ๊ฒŒ์ž„ ๋“ฑ ๋‹ค์–‘ํ•œ ์˜์—ญ์— ๋Œ€ํ•œ ๋ชจ๋ธ์˜ ์ ์‘์„ฑ์„ ํ…Œ์ŠคํŠธํ•˜๊ธฐ ์œ„ํ•ด ๊ณ ์•ˆ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

Roboflow 100 ๊ฐœ์š”

์ฃผ์š” ๊ธฐ๋Šฅ

  • 7๊ฐœ ์˜์—ญ์— ๊ฑธ์ณ 100๊ฐœ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค: ํ•ญ๊ณต, ๋น„๋””์˜ค ๊ฒŒ์ž„, ํ˜„๋ฏธ๊ฒฝ, ์ˆ˜์ค‘, ๋ฌธ์„œ, ์ „์ž๊ธฐ, ์‹ค์ œ ์„ธ๊ณ„.
  • ์ด ๋ฒค์น˜๋งˆํฌ๋Š” 805๊ฐœ ํด๋ž˜์Šค์— ๊ฑธ์ณ 224,714๊ฐœ์˜ ์ด๋ฏธ์ง€๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์œผ๋ฉฐ, 11,170์‹œ๊ฐ„์ด ๋„˜๋Š” ๋ผ๋ฒจ๋ง ์ž‘์—… ๋•๋ถ„์— ๊ฐ€๋Šฅํ–ˆ์Šต๋‹ˆ๋‹ค.
  • ๋ชจ๋“  ์ด๋ฏธ์ง€์˜ ํฌ๊ธฐ๋Š” 640x640ํ”ฝ์…€๋กœ ์กฐ์ •๋˜๋ฉฐ, ํด๋ž˜์Šค ๋ชจํ˜ธ์„ฑ์„ ์—†์• ๊ณ  ์ž˜ ๋“œ๋Ÿฌ๋‚˜์ง€ ์•Š๋Š” ํด๋ž˜์Šค๋ฅผ ํ•„ํ„ฐ๋งํ•˜๋Š” ๋ฐ ์ค‘์ ์„ ๋‘ก๋‹ˆ๋‹ค.
  • ์ฃผ์„์—๋Š” ๊ฐ์ฒด์— ๋Œ€ํ•œ ๊ฒฝ๊ณ„ ์ƒ์ž๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์–ด ๊ฐ์ฒด ๊ฐ์ง€ ๋ชจ๋ธ์„ ํ›ˆ๋ จํ•˜๊ณ  ํ‰๊ฐ€ํ•˜๋Š” ๋ฐ ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.

๋ฐ์ดํ„ฐ ์„ธํŠธ ๊ตฌ์กฐ

Roboflow 100 ๋ฐ์ดํ„ฐ ์„ธํŠธ๋Š” 7๊ฐœ์˜ ์นดํ…Œ๊ณ ๋ฆฌ๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์œผ๋ฉฐ, ๊ฐ ์นดํ…Œ๊ณ ๋ฆฌ์—๋Š” ๊ณ ์œ ํ•œ ๋ฐ์ดํ„ฐ ์„ธํŠธ, ์ด๋ฏธ์ง€ ๋ฐ ํด๋ž˜์Šค ์ง‘ํ•ฉ์ด ์žˆ์Šต๋‹ˆ๋‹ค:

  • Aerial: ์ด 9,683๊ฐœ์˜ ์ด๋ฏธ์ง€๊ฐ€ ํฌํ•จ๋œ 7๊ฐœ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์œผ๋ฉฐ, 24๊ฐœ์˜ ์„œ๋กœ ๋‹ค๋ฅธ ํด๋ž˜์Šค๋ฅผ ํฌ๊ด„ํ•ฉ๋‹ˆ๋‹ค.
  • ๋น„๋””์˜ค ๊ฒŒ์ž„: 88๊ฐœ ํด๋ž˜์Šค์— ๊ฑธ์ณ 11,579๊ฐœ์˜ ์ด๋ฏธ์ง€๊ฐ€ ํฌํ•จ๋œ 7๊ฐœ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.
  • ํ˜„๋ฏธ๊ฒฝ: 28๊ฐœ ํด๋ž˜์Šค์— ๊ฑธ์ณ 13,378๊ฐœ์˜ ์ด๋ฏธ์ง€๊ฐ€ ํฌํ•จ๋œ 11๊ฐœ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค.
  • ์ˆ˜์ค‘: 39๊ฐœ ํด๋ž˜์Šค์˜ 18,003๊ฐœ ์ด๋ฏธ์ง€๋ฅผ ํฌํ•จํ•˜๋Š” 5๊ฐœ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.
  • ๋ฌธ์„œ: 24,813๊ฐœ์˜ ์ด๋ฏธ์ง€๊ฐ€ ํฌํ•จ๋œ 8๊ฐœ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋กœ ๊ตฌ์„ฑ๋˜๋ฉฐ 90๊ฐœ์˜ ํด๋ž˜์Šค๋กœ ๋‚˜๋‰ฉ๋‹ˆ๋‹ค.
  • ์ „์ž๊ธฐ: 12๊ฐœ ๋ฐ์ดํ„ฐ ์„ธํŠธ, 41๊ฐœ ํด๋ž˜์Šค์˜ ์ด 36,381๊ฐœ ์ด๋ฏธ์ง€๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค.
  • ์‹ค์ œ ์„ธ๊ณ„: 50๊ฐœ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๊ฐ€ ์žˆ๋Š” ๊ฐ€์žฅ ํฐ ์นดํ…Œ๊ณ ๋ฆฌ๋กœ, 495๊ฐœ ํด๋ž˜์Šค์— ๊ฑธ์ณ 110,615๊ฐœ์˜ ์ด๋ฏธ์ง€๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

์ด ๊ตฌ์กฐ๋Š” ์‹ค์ œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ์‹œ๋‚˜๋ฆฌ์˜ค๋ฅผ ๋ฐ˜์˜ํ•˜์—ฌ ๊ฐ์ฒด ๊ฐ์ง€ ๋ชจ๋ธ์— ๋Œ€ํ•œ ๋‹ค์–‘ํ•˜๊ณ  ๊ด‘๋ฒ”์œ„ํ•œ ํ…Œ์ŠคํŠธ ํ™˜๊ฒฝ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

๋ฒค์น˜๋งˆํ‚น

๋ฐ์ดํ„ฐ ์„ธํŠธ ๋ฒค์น˜๋งˆํ‚น์€ ์ •ํ™•๋„, ํ‰๊ท  ์ •๋ฐ€๋„ ๋ฐ F1 ์ ์ˆ˜์™€ ๊ฐ™์€ ํ‘œ์ค€ํ™”๋œ ๋ฉ”ํŠธ๋ฆญ์„ ์‚ฌ์šฉํ•˜์—ฌ ํŠน์ • ๋ฐ์ดํ„ฐ ์„ธํŠธ์—์„œ ๋จธ์‹  ๋Ÿฌ๋‹ ๋ชจ๋ธ ์„ฑ๋Šฅ์„ ํ‰๊ฐ€ํ•ฉ๋‹ˆ๋‹ค.

๋ฒค์น˜๋งˆํ‚น

๋ฒค์น˜๋งˆํ‚น ๊ฒฐ๊ณผ๋Š” "ultralytics-benchmarks/evaluation.txt"์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค.

๋ฒค์น˜๋งˆํ‚น ์˜ˆ์‹œ

from pathlib import Path
import shutil
import os
from ultralytics.utils.benchmarks import RF100Benchmark

# Initialize RF100Benchmark and set API key
benchmark = RF100Benchmark()
benchmark.set_key(api_key="YOUR_ROBOFLOW_API_KEY")

# Parse dataset and define file paths
names, cfg_yamls = benchmark.parse_dataset()
val_log_file = Path("ultralytics-benchmarks") / "validation.txt"
eval_log_file = Path("ultralytics-benchmarks") / "evaluation.txt"

# Run benchmarks on each dataset in RF100
for ind, path in enumerate(cfg_yamls):
    path = Path(path)
    if path.exists():
        # Fix YAML file and run training
        benchmark.fix_yaml(str(path))
        os.system(f'yolo detect train data={path} model=yolov8s.pt epochs=1 batch=16')

        # Run validation and evaluate
        os.system(f'yolo detect val data={path} model=runs/detect/train/weights/best.pt > {val_log_file} 2>&1')
        benchmark.evaluate(str(path), str(val_log_file), str(eval_log_file), ind)

        # Remove the 'runs' directory
        runs_dir = Path.cwd() / "runs"
        shutil.rmtree(runs_dir)
    else:
        print("YAML file path does not exist")
        continue

print("RF100 Benchmarking completed!")

์• ํ”Œ๋ฆฌ์ผ€์ด์…˜

Roboflow 100์€ ์ปดํ“จํ„ฐ ๋น„์ „ ๋ฐ ๋”ฅ ๋Ÿฌ๋‹๊ณผ ๊ด€๋ จ๋œ ๋‹ค์–‘ํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ๋งค์šฐ ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค. ์—ฐ๊ตฌ์ž์™€ ์—”์ง€๋‹ˆ์–ด๋Š” ์ด ๋ฒค์น˜๋งˆํฌ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋‹ค์Œ๊ณผ ๊ฐ™์€ ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค:

  • ๋‹ค์ค‘ ๋„๋ฉ”์ธ ์ปจํ…์ŠคํŠธ์—์„œ ๊ฐœ์ฒด ๊ฐ์ง€ ๋ชจ๋ธ์˜ ์„ฑ๋Šฅ์„ ํ‰๊ฐ€ํ•˜์„ธ์š”.
  • ์ผ๋ฐ˜์ ์ธ ๊ฐ์ฒด ์ธ์‹์„ ๋„˜์–ด ์‹ค์ œ ์‹œ๋‚˜๋ฆฌ์˜ค์— ๋Œ€ํ•œ ๋ชจ๋ธ์˜ ์ ์‘์„ฑ์„ ํ…Œ์ŠคํŠธํ•ฉ๋‹ˆ๋‹ค.
  • ์˜๋ฃŒ, ํ•ญ๊ณต ์ด๋ฏธ์ง€, ๋น„๋””์˜ค ๊ฒŒ์ž„ ๋“ฑ ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ ์„ธํŠธ์—์„œ ๊ฐ์ฒด ๊ฐ์ง€ ๋ชจ๋ธ์˜ ๊ธฐ๋Šฅ์„ ๋ฒค์น˜๋งˆํ‚นํ•ด ๋ณด์„ธ์š”.

์‹ค์ œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ๋Œ€ํ•œ ๋” ๋งŽ์€ ์•„์ด๋””์–ด์™€ ์˜๊ฐ์„ ์–ป์œผ๋ ค๋ฉด ์‹ค์ œ ํ”„๋กœ์ ํŠธ์— ๋Œ€ํ•œ ๊ฐ€์ด๋“œ๋ฅผ ํ™•์ธํ•˜์„ธ์š”.

์‚ฌ์šฉ๋ฒ•

Roboflow 100 ๋ฐ์ดํ„ฐ ์„ธํŠธ๋Š” GitHub์™€ Roboflow Universe์—์„œ ๋ชจ๋‘ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Roboflow 100 GitHub ๋ฆฌํฌ์ง€ํ† ๋ฆฌ์—์„œ ์ง์ ‘ ์•ก์„ธ์Šคํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ Roboflow ์œ ๋‹ˆ๋ฒ„์Šค์—์„œ๋Š” ๊ฐ ๋ฐ์ดํ„ฐ ์„ธํŠธ ๋‚ด์—์„œ ๋‚ด๋ณด๋‚ด๊ธฐ ๋ฒ„ํŠผ์„ ํด๋ฆญํ•˜๊ธฐ๋งŒ ํ•˜๋ฉด ๊ฐœ๋ณ„ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋ฅผ ๋‹ค์šด๋กœ๋“œํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ƒ˜ํ”Œ ๋ฐ์ดํ„ฐ ๋ฐ ์ฃผ์„

Roboflow 100์€ ๋‹ค์–‘ํ•œ ๊ฐ๋„์™€ ์˜์—ญ์—์„œ ์บก์ฒ˜ํ•œ ๋‹ค์–‘ํ•œ ์ด๋ฏธ์ง€์™€ ๋™์˜์ƒ์ด ํฌํ•จ๋œ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ๋‹ค์Œ์€ RF100 ๋ฒค์น˜๋งˆํฌ์— ํฌํ•จ๋œ ์ฃผ์„์ด ๋‹ฌ๋ฆฐ ์ด๋ฏธ์ง€์˜ ์˜ˆ์‹œ์ž…๋‹ˆ๋‹ค.

์ƒ˜ํ”Œ ๋ฐ์ดํ„ฐ ๋ฐ ์ฃผ์„

์œ„์—์„œ ๋ณผ ์ˆ˜ ์žˆ๋Š” Roboflow 100 ๋ฒค์น˜๋งˆํฌ์˜ ๋‹ค์–‘์„ฑ์€ ์ œํ•œ๋œ ๋„๋ฉ”์ธ ๋‚ด์—์„œ ๋‹จ์ผ ๋ฉ”ํŠธ๋ฆญ์„ ์ตœ์ ํ™”ํ•˜๋Š” ๋ฐ ์ค‘์ ์„ ๋‘๋Š” ๊ธฐ์กด ๋ฒค์น˜๋งˆํฌ๋ณด๋‹ค ํฌ๊ฒŒ ๋ฐœ์ „ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.

์ธ์šฉ ๋ฐ ๊ฐ์‚ฌ

์—ฐ๊ตฌ ๋˜๋Š” ๊ฐœ๋ฐœ ์ž‘์—…์— Roboflow 100 ๋ฐ์ดํ„ฐ์…‹์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒฝ์šฐ ๋‹ค์Œ ๋…ผ๋ฌธ์„ ์ธ์šฉํ•ด ์ฃผ์„ธ์š”:

@misc{2211.13523,
    Author = {Floriana Ciaglia and Francesco Saverio Zuppichini and Paul Guerrie and Mark McQuade and Jacob Solawetz},
    Title = {Roboflow 100: A Rich, Multi-Domain Object Detection Benchmark},
    Eprint = {arXiv:2211.13523},
}

Roboflow 100 ๋ฐ์ดํ„ฐ์…‹์„ ๋งŒ๋“ค๊ณ  ์œ ์ง€ํ•˜๋Š” ๋ฐ ํž˜์จ์ฃผ์‹  Roboflow ํŒ€๊ณผ ๋ชจ๋“  ๊ธฐ์—ฌ์ž์—๊ฒŒ ๊ฐ์‚ฌ์˜ ๋ง์”€์„ ์ „ํ•ฉ๋‹ˆ๋‹ค.

๊ฐ์ฒด ๊ฐ์ง€ ๋ฐ ๋จธ์‹  ๋Ÿฌ๋‹ ํ”„๋กœ์ ํŠธ๋ฅผ ๊ฐœ์„ ํ•˜๊ธฐ ์œ„ํ•ด ๋” ๋งŽ์€ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋ฅผ ํƒ์ƒ‰ํ•˜๊ณ  ์‹ถ์œผ์‹œ๋‹ค๋ฉด, ํฌ๊ด„์ ์ธ ๋ฐ์ดํ„ฐ ์„ธํŠธ ์ปฌ๋ ‰์…˜์„ ๋ฐฉ๋ฌธํ•ด ๋ณด์„ธ์š”.



์ƒ์„ฑ 2024-02-07, ์—…๋ฐ์ดํŠธ 2024-04-29
์ž‘์„ฑ์ž: ๋ฆฌ์ฆˆ์™„๋ฌด๋‚˜์™€๋ฅด (2), ๊ธ€๋ Œ-์กฐ์ฒ˜ (1), ์•„๋น„๋ผ๋ฏธ-๋น„๋‚˜ (1)

๋Œ“๊ธ€