Простые утилиты#
Пакет ultralytics предоставляет различные утилиты для поддержки, улучшения и ускорения рабочих процессов. Доступно множество других утилит, но в этом руководстве описаны некоторые из самых полезных для разработчиков — это практический справочник по программированию с помощью инструментов Ultralytics.
Смотри: Утилиты Ultralytics | Автоматическая разметка, Explorer API и конвертация датасетов
Данные#
Автоматическая разметка / аннотации#
Разметка набора данных требует значительных ресурсов и времени. Если у тебя есть обученная на достаточном объёме данных модель Ultralytics YOLO для обнаружения объектов, ты можешь использовать её вместе с SAM, чтобы автоматически размечать дополнительные данные в формате сегментации.
from ultralytics.data.annotator import auto_annotate
auto_annotate(
data="path/to/new/data",
det_model="yolo26n.pt",
sam_model="mobile_sam.pt",
device="cuda",
output_dir="path/to/save_labels",
)Эта функция не возвращает никаких значений. Подробности:
- Подробнее о работе функции см. в разделе справочника по
annotator.auto_annotate. - Используй вместе с функцией
segments2boxes, чтобы также создавать ограничивающие рамки для обнаружения объектов.
Визуализация аннотаций набора данных#
Эта функция визуализирует аннотации YOLO на изображении до обучения, помогая выявлять и исправлять ошибки разметки, которые могут привести к неверным результатам обнаружения. Функция рисует ограничивающие рамки, указывает названия классов объектов и меняет цвет текста с учётом яркости фона для лучшей читаемости.
from ultralytics.data.utils import visualize_image_annotations
label_map = { # Определи карту меток со всеми размеченными классами.
0: "person",
1: "car",
}
# Visualize
visualize_image_annotations(
"path/to/image.jpg", # Путь к входному изображению.
"path/to/annotations.txt", # Путь к файлу аннотаций изображения.
label_map,
)Преобразование масок сегментации в формат YOLO#
Используй это, чтобы преобразовать набор данных с изображениями масок сегментации в формат сегментации Ultralytics YOLO. Функция принимает каталог с изображениями масок в бинарном формате и преобразует их в формат сегментации YOLO.
Преобразованные маски будут сохранены в указанном выходном каталоге.
from ultralytics.data.converter import convert_segment_masks_to_yolo_seg
# `classes` — общее количество классов в наборе данных.
# В наборе данных COCO 80 классов.
convert_segment_masks_to_yolo_seg(masks_dir="path/to/masks_dir", output_dir="path/to/output_dir", classes=80)Преобразование COCO в формат YOLO#
Используй это, чтобы преобразовать JSON-аннотации COCO в формат YOLO. Для наборов данных обнаружения объектов (ограничивающих рамок) установи для use_segments и use_keypoints значение False.
from ultralytics.data.converter import convert_coco
convert_coco(
"coco/annotations/",
use_segments=False,
use_keypoints=False,
cls91to80=True,
)Дополнительные сведения о функции convert_coco см. на странице справочника.
Получение размеров ограничивающей рамки#
import cv2
from ultralytics import YOLO
from ultralytics.utils.plotting import Annotator
model = YOLO("yolo26n.pt") # Load pretrain or fine-tune model
# Process the image
source = cv2.imread("path/to/image.jpg")
results = model(source)
# Extract results
annotator = Annotator(source, example=model.names)
for box in results[0].boxes.xyxy.cpu():
width, height, area = annotator.get_bbox_dimension(box)
print(f"Bounding Box Width {width.item()}, Height {height.item()}, Area {area.item()}")Преобразование ограничивающих рамок в сегменты#
Преобразуй существующие данные ограничивающих рамок x y w h в сегменты с помощью функции yolo_bbox2segment. Организуй файлы изображений и аннотаций следующим образом:
data
|__ images
├─ 001.jpg
├─ 002.jpg
├─ ..
└─ NNN.jpg
|__ labels
├─ 001.txt
├─ 002.txt
├─ ..
└─ NNN.txtfrom ultralytics.data.converter import yolo_bbox2segment
yolo_bbox2segment(
im_dir="path/to/images",
save_dir=None, # сохранено в "labels-segment" рядом с каталогом изображений
sam_model="sam_b.pt",
)Дополнительную информацию о функции см. на странице справочника yolo_bbox2segment.
Преобразование сегментов в ограничивающие рамки#
Если твой набор данных использует формат набора данных сегментации, с помощью этой функции можно легко преобразовать данные в вертикальные (или горизонтальные) ограничивающие рамки (формат x y w h).
import numpy as np
from ultralytics.utils.ops import segments2boxes
segments = np.array(
[
[805, 392, 797, 400, 812, 402, 808, 714, 808, 392],
[115, 398, 113, 400, 150, 410, 150, 400, 149, 298],
[267, 412, 265, 413, 300, 420, 300, 413, 299, 412],
],
dtype=np.float32,
)
segments2boxes([s.reshape(-1, 2) for s in segments])
# >>> array([[804.5, 553. , 15. , 322. ],
# [131.5, 354. , 37. , 112. ],
# [282.5, 416. , 35. , 8. ]],
# dtype=float32) # ограничивающие рамки xywhЧтобы узнать, как работает эта функция, перейди на страницу справочника.
Утилиты#
Сжатие изображений#
Сожми один файл изображения, уменьшив его размер и сохранив соотношение сторон и качество. Если входное изображение меньше максимального размера, оно не будет изменено.
from pathlib import Path
from ultralytics.data.utils import compress_one_image
for f in Path("path/to/dataset").rglob("*.jpg"):
compress_one_image(f)Автоматическое разделение набора данных#
Автоматически разделяй набор данных на части train/val/test и сохраняй полученные части в файлы autosplit_*.txt. Эта утилита создаёт постоянные файлы разбиения; аргумент обучения fraction вместо этого выбирает воспроизводимую подвыборку для запуска.
from ultralytics.data.split import autosplit
autosplit(
path="path/to/images",
weights=(0.9, 0.1, 0.0), # (доли для обучения, валидации и тестирования)
annotated_only=False, # разделять только изображения с файлом аннотаций, если значение True
)Подробнее об этой функции см. на странице справочника.
Преобразование многоугольника сегмента в бинарную маску#
Преобразуй один многоугольник (в виде списка) в бинарную маску заданного размера изображения. Многоугольник должен быть плоским одномерным массивом координат N, в котором чередуются значения x, y, задающие контур многоугольника.
N всегда должно быть чётным.
import numpy as np
from ultralytics.data.utils import polygon2mask
imgsz = (1080, 810)
polygon = np.array([805, 392, 797, 400, ..., 808, 714, 808, 392]) # (N,) плоский массив координат x, y
mask = polygon2mask(
imgsz, # tuple
[polygon], # входные данные в виде списка
color=255, # 8-битное двоичное значение
downsample_ratio=1,
)Ограничивающие рамки#
Экземпляры горизонтальных ограничивающих рамок#
Для работы с данными ограничивающих рамок класс Bboxes позволяет преобразовывать форматы координат рамок, масштабировать размеры рамок, вычислять площади, добавлять смещения и выполнять другие операции.
import numpy as np
from ultralytics.utils.instance import Bboxes
boxes = Bboxes(
bboxes=np.array(
[
[22.878, 231.27, 804.98, 756.83],
[48.552, 398.56, 245.35, 902.71],
[669.47, 392.19, 809.72, 877.04],
[221.52, 405.8, 344.98, 857.54],
[0, 550.53, 63.01, 873.44],
[0.0584, 254.46, 32.561, 324.87],
]
),
format="xyxy",
)
boxes.areas()
# >>> array([ 4.1104e+05, 99216, 68000, 55772, 20347, 2288.5])
boxes.convert("xywh")
print(boxes.bboxes)
# >>> array(
# [[ 413.93, 494.05, 782.1, 525.56],
# [ 146.95, 650.63, 196.8, 504.15],
# [ 739.6, 634.62, 140.25, 484.85],
# [ 283.25, 631.67, 123.46, 451.74],
# [ 31.505, 711.99, 63.01, 322.91],
# [ 16.31, 289.67, 32.503, 70.41]]
# )Другие атрибуты и методы см. в разделе справочника по Bboxes.
Многие из перечисленных ниже функций и другие доступны через класс Bboxes, но если ты предпочитаешь работать с функциями напрямую, в следующих подразделах описан способ их отдельного импорта.
Масштабирование рамок#
При увеличении или уменьшении изображения соответствующим образом масштабируй координаты ограничивающих рамок с помощью ultralytics.utils.ops.scale_boxes.
import cv2 as cv
import numpy as np
from ultralytics.utils.ops import scale_boxes
image = cv.imread("ultralytics/assets/bus.jpg")
h, w, c = image.shape
resized = cv.resize(image, None, fx=1.2, fy=1.2)
new_h, new_w, _ = resized.shape
xyxy_boxes = np.array(
[
[22.878, 231.27, 804.98, 756.83],
[48.552, 398.56, 245.35, 902.71],
[669.47, 392.19, 809.72, 877.04],
[221.52, 405.8, 344.98, 857.54],
[0, 550.53, 63.01, 873.44],
[0.0584, 254.46, 32.561, 324.87],
]
)
new_boxes = scale_boxes(
img1_shape=(h, w), # исходные размеры изображения
boxes=xyxy_boxes, # рамки исходного изображения
img0_shape=(new_h, new_w), # размеры изображения после изменения (масштаб)
ratio_pad=None,
padding=False,
xywh=False,
)
print(new_boxes)
# >>> array(
# [[ 27.454, 277.52, 965.98, 908.2],
# [ 58.262, 478.27, 294.42, 1083.3],
# [ 803.36, 470.63, 971.66, 1052.4],
# [ 265.82, 486.96, 413.98, 1029],
# [ 0, 660.64, 75.612, 1048.1],
# [ 0.0701, 305.35, 39.073, 389.84]]
# )Преобразование форматов ограничивающих рамок#
XYXY → XYWH#
Преобразуй координаты ограничивающей рамки из формата (x1, y1, x2, y2) в формат (x, y, ширина, высота), где (x1, y1) — верхний левый угол, а (x2, y2) — нижний правый угол.
import numpy as np
from ultralytics.utils.ops import xyxy2xywh
xyxy_boxes = np.array(
[
[22.878, 231.27, 804.98, 756.83],
[48.552, 398.56, 245.35, 902.71],
[669.47, 392.19, 809.72, 877.04],
[221.52, 405.8, 344.98, 857.54],
[0, 550.53, 63.01, 873.44],
[0.0584, 254.46, 32.561, 324.87],
]
)
xywh = xyxy2xywh(xyxy_boxes)
print(xywh)
# >>> array(
# [[ 413.93, 494.05, 782.1, 525.56],
# [ 146.95, 650.63, 196.8, 504.15],
# [ 739.6, 634.62, 140.25, 484.85],
# [ 283.25, 631.67, 123.46, 451.74],
# [ 31.505, 711.99, 63.01, 322.91],
# [ 16.31, 289.67, 32.503, 70.41]]
# )Все преобразования ограничивающих рамок#
from ultralytics.utils.ops import (
ltwh2xywh,
ltwh2xyxy,
xywh2ltwh, # xywh → верхний левый угол, w, h
xywh2xyxy,
xywhn2xyxy, # нормализованные значения → пиксели
xyxy2ltwh, # xyxy → верхний левый угол, w, h
xyxy2xywhn, # пиксели → нормализованные значения
)
for func in (ltwh2xywh, ltwh2xyxy, xywh2ltwh, xywh2xyxy, xywhn2xyxy, xyxy2ltwh, xyxy2xywhn):
print(help(func)) # вывести строки документации функцийДокументацию каждой функции смотри в её docstring или на странице справочника ultralytics.utils.ops.
Построение графиков#
Утилиты для аннотирования#
Ultralytics включает класс Annotator для аннотирования различных типов данных. Лучше всего он подходит для ограничивающих рамок обнаружения объектов, ключевых точек позы и ориентированных ограничивающих рамок.
Аннотирование рамок#
import cv2 as cv
import numpy as np
from ultralytics.utils.plotting import Annotator, colors
names = {
0: "person",
5: "bus",
11: "stop sign",
}
image = cv.imread("ultralytics/assets/bus.jpg")
ann = Annotator(
image,
line_width=None, # default auto-size
font_size=None, # default auto-size
font="Arial.ttf", # must be ImageFont compatible
pil=False, # use PIL, otherwise uses OpenCV
)
xyxy_boxes = np.array(
[
[5, 22.878, 231.27, 804.98, 756.83], # class-idx x1 y1 x2 y2
[0, 48.552, 398.56, 245.35, 902.71],
[0, 669.47, 392.19, 809.72, 877.04],
[0, 221.52, 405.8, 344.98, 857.54],
[0, 0, 550.53, 63.01, 873.44],
[11, 0.0584, 254.46, 32.561, 324.87],
]
)
for nb, box in enumerate(xyxy_boxes):
c_idx, *box = box
label = f"{str(nb).zfill(2)}:{names.get(int(c_idx))}"
ann.box_label(box, label, color=colors(c_idx, bgr=True))
image_with_bboxes = ann.result()Названия можно использовать из model.names при работе с результатами обнаружения. Дополнительные сведения см. также на странице справочника Annotator.
Аннотирование Sweep в Ultralytics#
import sys
import cv2
import numpy as np
from ultralytics import YOLO
from ultralytics.solutions.solutions import SolutionAnnotator
from ultralytics.utils.plotting import colors
# User defined video path and model file
cap = cv2.VideoCapture("path/to/video.mp4")
model = YOLO(model="yolo26s-seg.pt") # Model file, e.g., yolo26s.pt or yolo26m-seg.pt
if not cap.isOpened():
print("Error: Could not open video.")
sys.exit()
# Initialize the video writer object.
w, h, fps = (int(cap.get(x)) for x in (cv2.CAP_PROP_FRAME_WIDTH, cv2.CAP_PROP_FRAME_HEIGHT, cv2.CAP_PROP_FPS))
video_writer = cv2.VideoWriter("ultralytics.avi", cv2.VideoWriter_fourcc(*"mp4v"), fps, (w, h))
masks = None # Initialize variable to store masks data
f = 0 # Initialize frame count variable for enabling mouse event.
line_x = w # Store width of line.
dragging = False # Initialize bool variable for line dragging.
classes = model.names # Store model classes names for plotting.
window_name = "Ultralytics Sweep Annotator"
def drag_line(event, x, _, flags, param):
"""Mouse callback function to enable dragging a vertical sweep line across the video frame."""
global line_x, dragging
if event == cv2.EVENT_LBUTTONDOWN or (flags & cv2.EVENT_FLAG_LBUTTON):
line_x = max(0, min(x, w))
dragging = True
while cap.isOpened(): # Loop over the video capture object.
ret, im0 = cap.read()
if not ret:
break
f = f + 1 # Increment frame count.
count = 0 # Re-initialize count variable on every frame for precise counts.
results = model.track(im0, persist=True)[0]
if f == 1:
cv2.namedWindow(window_name)
cv2.setMouseCallback(window_name, drag_line)
annotator = SolutionAnnotator(im0)
if results.boxes.is_track:
if results.masks is not None:
masks = [np.array(m, dtype=np.int32) for m in results.masks.xy]
boxes = results.boxes.xyxy.tolist()
track_ids = results.boxes.id.int().cpu().tolist()
clss = results.boxes.cls.cpu().tolist()
for mask, box, cls, t_id in zip(masks or [None] * len(boxes), boxes, clss, track_ids):
color = colors(t_id, True) # Assign different color to each tracked object.
label = f"{classes[cls]}:{t_id}"
if mask is not None and mask.size > 0:
if box[0] > line_x:
count += 1
cv2.polylines(im0, [mask], True, color, 2)
x, y = mask.min(axis=0)
(w_m, _), _ = cv2.getTextSize(label, cv2.FONT_HERSHEY_SIMPLEX, 0.5, 1)
cv2.rectangle(im0, (x, y - 20), (x + w_m, y), color, -1)
cv2.putText(im0, label, (x, y - 5), cv2.FONT_HERSHEY_SIMPLEX, 0.5, (255, 255, 255), 1)
else:
if box[0] > line_x:
count += 1
annotator.box_label(box=box, color=color, label=label)
# Generate draggable sweep line
annotator.sweep_annotator(line_x=line_x, line_y=h, label=f"COUNT:{count}")
cv2.imshow(window_name, im0)
video_writer.write(im0)
if cv2.waitKey(1) & 0xFF == ord("q"):
break
# Release the resources
cap.release()
video_writer.release()
cv2.destroyAllWindows()Дополнительные сведения о методе sweep_annotator см. в нашем разделе справочника здесь.
Адаптивное аннотирование меток#
SolutionAnnotator.adaptive_label рисует метку, форма которой выбирается аргументом shape (он заменяет более старые методы circle_label и text_label):
- Прямоугольник:
annotator.adaptive_label(box, label=names[int(cls)], color=colors(cls, True), shape="rect") - Круг:
annotator.adaptive_label(box, label=names[int(cls)], color=colors(cls, True), shape="circle")
Смотри: Подробное руководство по текстовым и круговым аннотациям с живыми демонстрациями на Python | Аннотации Ultralytics 🚀
import cv2
from ultralytics import YOLO
from ultralytics.solutions.solutions import SolutionAnnotator
from ultralytics.utils.plotting import colors
model = YOLO("yolo26s.pt")
names = model.names
cap = cv2.VideoCapture("path/to/video.mp4")
w, h, fps = (int(cap.get(x)) for x in (cv2.CAP_PROP_FRAME_WIDTH, cv2.CAP_PROP_FRAME_HEIGHT, cv2.CAP_PROP_FPS))
writer = cv2.VideoWriter("Ultralytics circle annotation.avi", cv2.VideoWriter_fourcc(*"MJPG"), fps, (w, h))
while True:
ret, im0 = cap.read()
if not ret:
break
annotator = SolutionAnnotator(im0)
results = model.predict(im0)[0]
boxes = results.boxes.xyxy.cpu()
clss = results.boxes.cls.cpu().tolist()
for box, cls in zip(boxes, clss):
annotator.adaptive_label(box, label=names[int(cls)], color=colors(cls, True), shape="circle")
writer.write(im0)
cv2.imshow("Ultralytics circle annotation", im0)
if cv2.waitKey(1) & 0xFF == ord("q"):
break
writer.release()
cap.release()
cv2.destroyAllWindows()Смотри справочную страницу SolutionAnnotator, чтобы узнать больше.
Разное#
Профилирование кода#
Проверь, сколько времени занимает выполнение или обработка кода, используя with или декоратор.
from ultralytics.utils.ops import Profile
with Profile(device="cuda:0") as dt:
pass # операция для измерения
print(dt)
# >>> "Elapsed time is 9.5367431640625e-07 s"Поддерживаемые форматы Ultralytics#
Нужно программно использовать форматы изображений или видео, поддерживаемые Ultralytics? При необходимости используй эти константы:
from ultralytics.data.utils import IMG_FORMATS, VID_FORMATS
print(IMG_FORMATS)
# {'avif', 'bmp', 'dng', 'heic', 'heif', 'jp2', 'jpeg', 'jpg', 'mpo', 'png', 'tif', 'tiff', 'webp'}
print(VID_FORMATS)
# {'asf', 'avi', 'gif', 'm4v', 'mkv', 'mov', 'mp4', 'mpeg', 'mpg', 'ts', 'wmv', 'webm'}Округление до кратного#
Вычисли наименьшее целое число, большее или равное x, которое делится на y без остатка.
from ultralytics.utils.ops import make_divisible
make_divisible(7, 3)
# >>> 9
make_divisible(7, 2)
# >>> 8Часто задаваемые вопросы#
Пакет Ultralytics включает утилиты, предназначенные для упрощения и оптимизации рабочих процессов машинного обучения. К основным утилитам относятся автоматическая разметка для маркировки наборов данных, преобразование COCO в формат YOLO с помощью convert_coco, сжатие изображений и автоматическое разделение набора данных. Эти инструменты сокращают ручную работу, обеспечивают единообразие и повышают эффективность обработки данных.
Если у тебя есть предварительно обученная модель Ultralytics YOLO для обнаружения объектов, можно использовать её вместе с моделью SAM, чтобы автоматически разметить набор данных в формате сегментации. Вот пример:
from ultralytics.data.annotator import auto_annotate auto_annotate( data="path/to/new/data", det_model="yolo26n.pt", sam_model="mobile_sam.pt", device="cuda", output_dir="path/to/save_labels", )Подробнее см. в справочном разделе auto_annotate или используй Ultralytics Platform как размещённую альтернативу без программирования: маскируй объекты щелчками с помощью SAM 2.1, SAM 3 или SAM 3.1 либо получай предсказания предварительно обученных и дообученных моделей YOLO для задач обнаружения, сегментации и OBB.
Чтобы преобразовать аннотации COCO в формате JSON в формат YOLO для обнаружения объектов, можно использовать утилиту
convert_coco. Вот пример фрагмента кода:from ultralytics.data.converter import convert_coco convert_coco( "coco/annotations/", use_segments=False, use_keypoints=False, cls91to80=True, )Дополнительную информацию см. на справочной странице convert_coco.
Ultralytics Platform автоматически анализирует набор данных: на вкладке
Chartsпоказаны распределение по выборкам, количество объектов в основных классах, гистограммы размеров изображений и двумерные тепловые карты расположения аннотаций. Это помогает выявлять дисбаланс и выбросы до начала обучения.Чтобы преобразовать существующие данные ограничивающих рамок (в формате
x y w h) в сегменты, можно использовать функциюyolo_bbox2segment. Убедись, что изображения и метки размещены в отдельных каталогах.from ultralytics.data.converter import yolo_bbox2segment yolo_bbox2segment( im_dir="path/to/images", save_dir=None, # сохранено в "labels-segment" рядом с каталогом изображений sam_model="sam_b.pt", )Дополнительную информацию см. на справочной странице yolo_bbox2segment.