Бенчмарк Ultralytics
COCO не репрезентативен для многих реальных задач компьютерного зрения. Ultralytics Benchmark — это эталонный набор данных для оценки обобщающей способности моделей на 37 тщательно отобранных наборах данных для обнаружения объектов с высококачественной разметкой ограничивающих рамок. Области применения набора данных включают анализ медицинских изображений, дистанционное зондирование, дорожное движение, документы, пользовательские интерфейсы, розничную торговлю, машинное зрение, сельское хозяйство, спорт, дикую природу, подводную съёмку и обнаружение отходов. Типы сенсоров включают RGB, объективы типа «рыбий глаз», тепловой инфракрасный диапазон, рентгеновские снимки, MRI, ультразвук, микроскопию и радар с синтезированной апертурой (SAR).
Подготовленные датасеты размещены на платформе Ultralytics. Таблица лидеров VLM ранжирует модели «зрение — язык» и детекторы с открытым словарём по точности, стоимости и скорости на изображениях из 36 этих датасетов.
Кандидатные наборы данных проверялись на точные и почти полные дубликаты изображений между обучающими и валидационными выборками. Найденные пары проверялись вручную; подтверждённые утечки между выборками удалялись, а затронутый набор данных заменялся.
Наборы данных#
| Область | Датчик / тип изображений | Датасет | Классы |
|---|---|---|---|
| Аэрофотосъёмка/ДЗЗ | Спутниковые изображения RGB | Обнаружение нефтехранилищ Airbus | 1: резервуар для хранения нефти |
| Документы/интерфейсы | Изображения RGB и сканированные страницы | Элементы документа AnnoPage | 25: химическая формула/уравнение, символ/логотип, фотография, рисунок, график, карта, математическое выражение, музыкальная нотация, изображение, декоративный элемент, надпись, план этажа, штрихкод/QR-код, печать, реклама, рукописная заметка, схема, таблица, виньетка и фриз |
| Спорт | Камера RGB | Обнаружение баскетбольного кольца | 2: баскетбольный мяч, баскетбольная сетка |
| Вождение/дорожное движение | Дорожная камера RGB | CEYMO | 11: полоса для автобусов, велосипедная полоса, ромб, распределительная коробка, стрелка налево, пешеходный переход, стрелка направо, стрелка прямо, снижение скорости, стрелка прямо и налево, стрелка прямо и направо |
| Медицина | МРТ | МРТ опухолей мозга Cheng | 3: менингиома, глиома, опухоль гипофиза |
| Медицина | Камера глазного дна | Поражения сетчатки DDR | 4: твёрдые экссудаты, кровоизлияния, микроаневризмы, мягкие экссудаты |
| Промышленность | Промышленная камера линейного сканирования | DeepPCB | 6: обрыв, короткое замыкание, скол, выступ, медь, отверстие |
| Медицина | Стоматологический рентген | DENTEX | 4: ретинированный зуб, кариес, периапикальное поражение, глубокий кариес |
| Промышленность | Промышленная камера RGB | DSPCBSD | 9: короткое замыкание, выступ, посторонняя медь, обрыв, скол, пробой отверстия, царапина на проводнике, посторонний объект на проводнике, посторонний объект в материале основания |
| Другая | Эгоцентрическая камера RGB | EgoHands | 4: own_left, own_right, other_left, other_right |
| Другая | Камера для съёмки дикой природы RGB и инфракрасного диапазона | ENA24 | 22 класса: дикие животные, люди, домашние животные и транспортные средства |
| Вождение/дорожное движение | Панорамная камера RGB | Fisheye8K | 5: автобус, велосипед, автомобиль, пешеход, грузовик |
| Документы/интерфейсы | Цифровые и отсканированные планы | FloorPlanCAD | 30 классов архитектурных проёмов, мебели, бытовой техники, сантехники, лестниц, лифтов и эскалаторов |
| Медицина | Рентген | GRAZPEDWRI-DX | 9: аномалия кости, поражение кости, инородное тело, перелом, металл, реакция надкостницы, pronatorsign, мягкие ткани, текст |
| Документы/интерфейсы | Цифровые снимки экрана | Пользовательский интерфейс GroundCUA | 9: кнопка, информационный дисплей, элементы ввода, меню, навигация, прочее, боковая панель, визуальные элементы, неизвестно |
| Сельское хозяйство | Полевой камера RGB | GWHD 2021 | 1: колос пшеницы |
| Аэрофотосъёмка/ДЗЗ | БПЛА с тепловизионной камерой | HIT-UAV | 5: человек, автомобиль, велосипед, другое транспортное средство, игнорируемая область (не оценивается) |
| Медицина | Рентгеновский досмотр | Рентгеновский набор данных IED | 11 классов: взрывчатка, батарея, ноутбук, пейджер, мобильный телефон, рация и модифицированные устройства |
| Медицина | Эндоскоп RGB | Полипы Kvasir-SEG | 1: полип |
| Вождение/дорожное движение | Тепловизионная съёмка | LLVIP | 1: человек |
| Аэрофотосъёмка/ДЗЗ | Мультиспектральные изображения в 8 диапазонах | Мультиспектральный набор данных MODA | 8: автомобиль, фургон, грузовик, автобус, трицикл, велосипед, велосипед с навесом, пешеход |
| Сельское хозяйство | Камера RGB | PlantDoc | 29 классов болезней сельскохозяйственных культур и растений |
| Спорт | Видеокадры RGB | Теннисный мяч RacketVision | 1: теннисный мяч |
| Вождение/дорожное движение | Дорожная камера RGB | RDD2022 | 5: продольная трещина, поперечная трещина, сетка трещин, другие повреждения, выбоина |
| Розничная торговля | Камера RGB на кассе | Товары на кассе RPC | 200 классов товаров на кассе: упакованные продукты, напитки, молоко, консервы, шоколад, жевательная резинка, конфеты, приправы, средства гигиены, салфетки и канцелярские товары |
| Другая | Подводная камера RGB | Подводный набор данных RUOD | 10: голотурии, морские ежи, морские гребешки, морские звёзды, рыбы, кораллы, дайверы, каракатицы, черепахи, медузы |
| Промышленность | Камера RGB | Safe Human 17 | 17 классов людей, частей тела, инструментов и средств индивидуальной защиты |
| Аэрофотосъёмка/ДЗЗ | Камера БПЛА RGB | SeaDronesSee | 6: игнорируемый объект, пловец, лодка, гидроцикл, спасательные средства, буй |
| Розничная торговля | Камера RGB в розничном магазине | SKU-110K | 1: товар на полке |
| Спорт | Цветная широковещательная камера | SoccerDB | 3: игрок, мяч, ворота |
| Аэрофотосъёмка/ДЗЗ | Синтезно-апертурный радар (SAR) | SSDD SAR Ship | 1: корабль |
| Другая | Камера RGB | TACO Litter | 28 классов материалов и объектов мусора |
| Медицина | Рентген грудной клетки | TBX11K | 2: активный туберкулёз, перенесённый туберкулёз лёгких |
| Медицина | Ультразвуковое исследование | TN5000 Thyroid Ultrasound | 2: доброкачественная опухоль, злокачественная опухоль |
| Медицина | Световая микроскопия | TXL-PBC Blood Cells | 3: лейкоциты, эритроциты, тромбоциты |
| Другая | Камера RGB | UEC School Lunch Food | 21 класс продуктов и напитков для школьных обедов |
| Аэрофотосъёмка/ДЗЗ | Камера БПЛА RGB | VisDrone | 10: пешеход, люди, велосипед, автомобиль, фургон, грузовик, трицикл, трицикл с навесом, автобус, мотоцикл |
Оценка#
- Возьми до 1 000 изображений из каждого обучающего сплита, сохрани полный валидационный сплит и исключи тестовый сплит с помощью
fraction=[1000, 1.0, 0.0]. - Независимо дообучи один и тот же предварительно обученный чекпойнт на каждом датасете в течение 100 эпох с patience 100, seed 0, batch 16 и четырьмя воркерами. Размер изображений — 640 пикселей. Seed 0 не обеспечивает полной детерминированности, поэтому для YOLO27m и YOLO27l указано среднее значение по 3 таким запускам.
- Включи переназначение классов, формат channels-last и вывод JSON с предсказаниями, отключив построение графиков.
- Оцени лучший чекпойнт каждого датасета и повторно используй сохранённый
max_det, который учитывает наибольшее число объектов в этом датасете. - Применяй игнорируемые области, как в наборе инструментов VisDrone DET: отбрасывай предсказания и метки, которые игнорируемая область покрывает как минимум наполовину. Это 1 378 официальных игнорируемых областей VisDrone и 7 боксов
ignored regionиз HIT-UAV; после этого класс HIT-UAV удаляется. - Чтобы рассчитать mAP50-95 отдельно для разных размеров, перед применением категорий COCO для малых, средних и крупных объектов умножь площади эталонных и предсказанных рамок на
(640 / max(image_width, image_height)) ** 2. - Придай всем датасетам одинаковый вес. Каждая метрика размера учитывает только датасеты, в которых не менее 10 объектов соответствующего диапазона.
Макро-mAP — это sum(dataset validation mAP50-95) / 37. Метрики рассчитаны по сохранённым предсказаниям каждого датасета.
Результаты бенчмарка#
Метрики представляют собой макроусреднённые значения по 37 валидационным подмножествам и указаны в процентах. YOLO27 — ещё не выпущенная предварительная версия; её веса пока недоступны.
| Размер | Модель | mAP50-95 | Точность | Полнота | mAP50-95-S | mAP50-95-M | mAP50-95-L |
|---|---|---|---|---|---|---|---|
| L/X | YOLO27l | 55.97 | 79.11 | 75.14 | 38.52 | 55.90 | 64.64 |
| L/X | YOLO26x | 50.19 | 76.93 | 69.08 | 34.89 | 50.78 | 52.15 |
| L/X | YOLO26l | 50.05 | 75.28 | 69.53 | 34.96 | 50.37 | 52.25 |
| L/X | YOLO11l | 48.71 | 74.26 | 68.50 | 32.29 | 50.84 | 51.14 |
| L/X | YOLOv5l | 48.25 | 74.03 | 68.16 | 32.15 | 49.89 | 50.27 |
| L/X | YOLOv8l | 48.22 | 74.15 | 69.14 | 32.44 | 49.14 | 49.98 |
| L/X | YOLOv8x | 47.94 | 76.00 | 66.82 | 31.60 | 49.85 | 50.16 |
| L/X | YOLOv5x | 47.58 | 75.05 | 68.15 | 31.66 | 49.60 | 50.18 |
| L/X | YOLO11x | 47.49 | 73.75 | 67.50 | 31.64 | 48.82 | 49.66 |
| M | YOLO27m | 53.68 | 76.66 | 73.20 | 36.47 | 53.65 | 61.30 |
| M | YOLO26m | 49.74 | 76.23 | 68.74 | 33.40 | 50.29 | 51.78 |
| M | YOLOv5m | 48.41 | 74.34 | 68.39 | 32.12 | 49.78 | 52.39 |
| M | YOLO11m | 48.39 | 73.87 | 68.85 | 32.62 | 49.87 | 51.23 |
| M | YOLOv8m | 48.25 | 73.89 | 68.69 | 31.21 | 49.73 | 52.41 |
| S | YOLO27s | 51.76 | 76.68 | 71.46 | 35.19 | 51.68 | 54.53 |
| S | YOLO11s | 48.00 | 75.00 | 67.85 | 29.98 | 49.81 | 51.13 |
| S | YOLO26s | 47.77 | 74.24 | 67.23 | 32.00 | 47.91 | 51.00 |
| S | YOLOv5s | 47.55 | 74.18 | 67.37 | 30.95 | 49.13 | 50.57 |
| S | YOLOv8s | 47.53 | 74.27 | 67.68 | 31.38 | 48.52 | 50.57 |
| N | YOLO27n | 49.32 | 75.46 | 68.82 | 32.41 | 49.27 | 54.05 |
| N | YOLO11n | 46.37 | 72.86 | 65.94 | 28.76 | 47.53 | 51.05 |
| N | YOLOv8n | 46.09 | 72.53 | 65.89 | 29.02 | 47.61 | 49.62 |
| N | YOLOv5n | 45.29 | 71.77 | 65.21 | 29.03 | 46.83 | 48.59 |
| N | YOLO26n | 44.37 | 70.25 | 63.40 | 29.12 | 44.77 | 48.39 |
Бенчмаркинг#
Используй ветку main Ultralytics и укажи ULTRALYTICS_API_KEY для доступа к датасету:
from ultralytics import YOLO
datasets = [
"ul://ultralytics/datasets/airbus-oil-storage-detection",
"ul://ultralytics/datasets/annopage-doc-elements",
"ul://ultralytics/datasets/basketball-hoop-detection",
"ul://ultralytics/datasets/ceymo",
"ul://ultralytics/datasets/cheng-brain-tumor-mri",
"ul://ultralytics/datasets/ddr-lesion",
"ul://ultralytics/datasets/deeppcb",
"ul://ultralytics/datasets/dentex",
"ul://ultralytics/datasets/dspcbsd-pcb-surface-defect",
"ul://ultralytics/datasets/egohands-egocentric",
"ul://ultralytics/datasets/ena24",
"ul://ultralytics/datasets/fisheye8k-traffic",
"ul://ultralytics/datasets/floorplancad-2",
"ul://ultralytics/datasets/grazpedwri-dx",
"ul://ultralytics/datasets/groundcua-ui-yolo",
"ul://ultralytics/datasets/global-wheat-head-detection-2021",
"ul://ultralytics/datasets/hit-uav",
"ul://ultralytics/datasets/iedxray",
"ul://ultralytics/datasets/kvasir-seg-polyp",
"ul://ultralytics/datasets/llvip",
"ul://ultralytics/datasets/moda-multispectral-obb",
"ul://ultralytics/datasets/plantdoc",
"ul://ultralytics/datasets/racketvision-tennis-ball-yolo",
"ul://ultralytics/datasets/rdd2022",
"ul://ultralytics/datasets/rpc-retail-checkout",
"ul://ultralytics/datasets/ruod-underwater",
"ul://ultralytics/datasets/safe-human-17",
"ul://ultralytics/datasets/seadronessee-2",
"ul://ultralytics/datasets/sku110k-2",
"ul://ultralytics/datasets/soccerdb",
"ul://ultralytics/datasets/ssdd-sar-ship",
"ul://ultralytics/datasets/taco-detect",
"ul://ultralytics/datasets/tbx11k-tb-only",
"ul://ultralytics/datasets/tn5000-thyroid-us",
"ul://ultralytics/datasets/txl-pbc-blood-cells",
"ul://ultralytics/datasets/uec-school-lunch-food-2",
"ul://ultralytics/datasets/visdrone",
]
results = YOLO("yolo26n.pt").train(
data=datasets,
epochs=100,
patience=100,
imgsz=640,
batch=16,
fraction=[1000, 1.0, 0.0],
seed=0,
workers=4,
cls_remap=True,
channels_last=True,
save_json=True,
plots=False,
)
# В основной ветке используются диапазоны размеров для исходных площадей. В этом бенчмарке площади GT и предсказаний отдельно масштабируются
# на (640 / max(image_width, image_height)) ** 2 перед оценкой AP для конкретного размера и применяет игнорируемые области VisDrone и
# игнорируемые области HIT-UAV. Этот фрагмент не делает ни того, ни другого.Цитирование#
Если ты используешь Ultralytics Benchmark в своей работе, укажи в цитировании статью Ultralytics YOLO26:
@misc{jocher2026ultralyticsyolo26unifiedrealtime,
title = {Ultralytics YOLO26: Unified Real-Time End-to-End Vision Models},
author = {Glenn Jocher and Jing Qiu and Mengyu Liu and Shuai Lyu and Fatih Cagatay Akyon and Muhammet Esat Kalfaoglu},
year = {2026},
eprint = {2606.03748},
archivePrefix = {arXiv},
primaryClass = {cs.CV},
doi = {10.48550/arXiv.2606.03748},
url = {https://arxiv.org/abs/2606.03748},
}Комментарии
Задай вопрос, поделись результатами или помоги кому-нибудь.



