Загрузка YOLOv5 из PyTorch Hub#
📚 Это руководство объясняет, как загрузить YOLOv5 🚀 из PyTorch Hub по адресу https://pytorch.org/hub/ultralytics_yolov5.
Перед началом#
Установи requirements.txt в окружении Python>=3.8.0, включая PyTorch>=1.8. Модели и датасеты автоматически загружаются из последнего релиза YOLOv5.
pip install -r https://raw.githubusercontent.com/ultralytics/yolov5/master/requirements.txtКлонировать ultralytics/yolov5 не требуется — PyTorch Hub автоматически загружает код.
Загрузка YOLOv5 с помощью PyTorch Hub#
Простой пример#
В этом примере предварительно обученная модель YOLOv5s загружается из PyTorch Hub как model, после чего ей передаётся изображение для инференса. 'yolov5s' — самая компактная и быстрая модель YOLOv5. Подробную информацию обо всех доступных моделях см. в README.
import torch
# Model
model = torch.hub.load("ultralytics/yolov5", "yolov5s")
# Image
im = "https://ultralytics.com/images/zidane.jpg"
# Inference
results = model(im)
results.pandas().xyxy[0]
# xmin ymin xmax ymax confidence class name
# 0 749.50 43.50 1148.0 704.5 0.874023 0 person
# 1 433.50 433.50 517.5 714.5 0.687988 27 tie
# 2 114.75 195.75 1095.0 708.0 0.624512 0 person
# 3 986.00 304.00 1028.0 420.0 0.286865 27 tieПодробный пример#
В этом примере показан батчевый инференс с источниками изображений PIL и OpenCV. results можно вывести в консоль, сохранить в runs/hub, показать на экране в поддерживаемых окружениях и вернуть в виде тензоров или датафреймов pandas.
import cv2
import torch
from PIL import Image
# Model
model = torch.hub.load("ultralytics/yolov5", "yolov5s")
# Images
for f in "zidane.jpg", "bus.jpg":
torch.hub.download_url_to_file(f"https://ultralytics.com/images/{f}", f) # download 2 images
im1 = Image.open("zidane.jpg") # PIL image
im2 = cv2.imread("bus.jpg")[..., ::-1] # OpenCV image (BGR to RGB)
# Inference
results = model([im1, im2], size=640) # batch of images
# Results
results.print()
results.save() # or .show()
results.xyxy[0] # im1 predictions (tensor)
results.pandas().xyxy[0] # im1 predictions (pandas)
# xmin ymin xmax ymax confidence class name
# 0 749.50 43.50 1148.0 704.5 0.874023 0 person
# 1 433.50 433.50 517.5 714.5 0.687988 27 tie
# 2 114.75 195.75 1095.0 708.0 0.624512 0 person
# 3 986.00 304.00 1028.0 420.0 0.286865 27 tie
Все параметры инференса см. в методе forward модели YOLOv5 AutoShape().
Параметры инференса#
Модели YOLOv5 содержат различные атрибуты инференса, такие как порог уверенности, порог IoU и т. д., которые можно задать следующим образом:
model.conf = 0.25 # NMS confidence threshold
model.iou = 0.45 # NMS IoU threshold
model.agnostic = False # NMS class-agnostic
model.multi_label = False # NMS multiple labels per box
model.classes = None # (optional list) filter by class, i.e. = [0, 15, 16] for COCO persons, cats and dogs
model.max_det = 1000 # maximum number of detections per image
model.amp = False # Automatic Mixed Precision (AMP) inference
results = model(im, size=320) # custom inference sizeУстройство#
После создания модели можно перенести на любое устройство:
model.cpu() # CPU
model.cuda() # GPU
model.to(device) # i.e. device=torch.device(0)Модели также можно сразу создавать на любом device:
model = torch.hub.load("ultralytics/yolov5", "yolov5s", device="cpu") # load on CPUПеред инференсом входные изображения автоматически переносятся на устройство соответствующей модели.
Отключение вывода#
Модели можно загружать без вывода с помощью _verbose=False:
model = torch.hub.load("ultralytics/yolov5", "yolov5s", _verbose=False) # load silentlyВходные каналы#
Чтобы загрузить предварительно обученную модель YOLOv5s с 4 входными каналами вместо стандартных 3:
model = torch.hub.load("ultralytics/yolov5", "yolov5s", channels=4)В этом случае модель будет состоять из предварительно обученных весов за исключением самого первого входного слоя, форма которого больше не совпадает с формой предварительно обученного входного слоя. Входной слой останется инициализированным случайными весами.
Количество классов#
Чтобы загрузить предварительно обученную модель YOLOv5s с 10 выходными классами вместо стандартных 80:
model = torch.hub.load("ultralytics/yolov5", "yolov5s", classes=10)В этом случае модель будет состоять из предварительно обученных весов за исключением выходных слоёв, форма которых больше не совпадает с формой предварительно обученных выходных слоёв. Выходные слои останутся инициализированными случайными весами.
Принудительная перезагрузка#
Если у тебя возникли проблемы с описанными выше шагами, установка force_reload=True может помочь: существующий кэш будет удалён, а последняя версия YOLOv5 будет заново загружена из PyTorch Hub. Кэшированные копии находятся в ~/.cache/torch/hub; удаление этой папки даёт тот же результат.
model = torch.hub.load("ultralytics/yolov5", "yolov5s", force_reload=True) # force reloadИнференс по скриншоту#
Чтобы запустить инференс на экране рабочего стола:
import torch
from PIL import ImageGrab
# Model
model = torch.hub.load("ultralytics/yolov5", "yolov5s")
# Image
im = ImageGrab.grab() # take a screenshot
# Inference
results = model(im)Инференс на нескольких GPU#
Модели YOLOv5 можно параллельно загружать на несколько GPU с помощью многопоточного инференса:
import threading
import torch
def run(model, im):
"""Performs inference on an image using a given model and saves the output; model must support `.save()` method."""
results = model(im)
results.save()
# Models
model0 = torch.hub.load("ultralytics/yolov5", "yolov5s", device=0)
model1 = torch.hub.load("ultralytics/yolov5", "yolov5s", device=1)
# Inference
threading.Thread(target=run, args=[model0, "https://ultralytics.com/images/zidane.jpg"], daemon=True).start()
threading.Thread(target=run, args=[model1, "https://ultralytics.com/images/bus.jpg"], daemon=True).start()Обучение#
Чтобы загрузить модель YOLOv5 для обучения, а не для инференса, установи autoshape=False. Чтобы загрузить модель со случайно инициализированными весами (для обучения с нуля), используй pretrained=False. В этом случае ты должен предоставить собственный скрипт обучения. Также для обучения модели см. наше руководство Обучение на собственных данных для YOLOv5.
import torch
model = torch.hub.load("ultralytics/yolov5", "yolov5s", autoshape=False) # load pretrained
model = torch.hub.load("ultralytics/yolov5", "yolov5s", autoshape=False, pretrained=False) # load scratchРезультаты в формате Base64#
Для использования с API-сервисами. Подробности см. в примере Flask REST API.
import base64
from io import BytesIO
from PIL import Image
results = model(im) # inference
results.ims # array of original images (as np array) passed to model for inference
results.render() # updates results.ims with boxes and labels
for im in results.ims:
buffered = BytesIO()
im_base64 = Image.fromarray(im)
im_base64.save(buffered, format="JPEG")
print(base64.b64encode(buffered.getvalue()).decode("utf-8")) # base64 encoded image with resultsОбрезанные результаты#
Результаты можно вернуть и сохранить в виде обрезанных областей обнаружения:
results = model(im) # inference
crops = results.crop(save=True) # cropped detections dictionaryРезультаты Pandas#
Результаты можно вернуть в виде датафреймов Pandas:
results = model(im) # inference
results.pandas().xyxy[0] # Pandas DataFramePandas Output (click to expand)
print(results.pandas().xyxy[0])
# xmin ymin xmax ymax confidence class name
# 0 749.50 43.50 1148.0 704.5 0.874023 0 person
# 1 433.50 433.50 517.5 714.5 0.687988 27 tie
# 2 114.75 195.75 1095.0 708.0 0.624512 0 person
# 3 986.00 304.00 1028.0 420.0 0.286865 27 tieОтсортированные результаты#
Результаты можно сортировать по столбцу, например чтобы упорядочить обнаруженные цифры номерного знака слева направо (по оси x):
results = model(im) # inference
results.pandas().xyxy[0].sort_values("xmin") # sorted left-rightРезультаты в формате JSON#
Результаты можно вернуть в формате JSON после преобразования в датафреймы .pandas() с помощью метода .to_json(). Формат JSON можно изменить с помощью аргумента orient. Подробности см. в документации по .to_json() pandas.
results = model(ims) # inference
results.pandas().xyxy[0].to_json(orient="records") # JSON img1 predictionsJSON Output (click to expand)
[
{
"xmin": 749.5,
"ymin": 43.5,
"xmax": 1148.0,
"ymax": 704.5,
"confidence": 0.8740234375,
"class": 0,
"name": "person"
},
{
"xmin": 433.5,
"ymin": 433.5,
"xmax": 517.5,
"ymax": 714.5,
"confidence": 0.6879882812,
"class": 27,
"name": "tie"
},
{
"xmin": 115.25,
"ymin": 195.75,
"xmax": 1096.0,
"ymax": 708.0,
"confidence": 0.6254882812,
"class": 0,
"name": "person"
},
{
"xmin": 986.0,
"ymin": 304.0,
"xmax": 1028.0,
"ymax": 420.0,
"confidence": 0.2873535156,
"class": 27,
"name": "tie"
}
]Пользовательские модели#
В этом примере с помощью PyTorch Hub загружается пользовательская модель YOLOv5s 'best.pt', обученная на VOC с 20 классами.
import torch
model = torch.hub.load("ultralytics/yolov5", "custom", path="path/to/best.pt") # local model
model = torch.hub.load("path/to/yolov5", "custom", path="path/to/best.pt", source="local") # local repoМодели TensorRT, ONNX и OpenVINO#
PyTorch Hub поддерживает инференс в большинстве форматов экспорта YOLOv5, включая модели, обученные на пользовательских данных. Подробности об экспорте моделей см. в руководстве Экспорт в TFLite, ONNX, CoreML и TensorRT.
- TensorRT может быть в 2–5 раз быстрее PyTorch в тестах производительности GPU.
- ONNX и OpenVINO могут быть в 2–3 раза быстрее PyTorch в тестах производительности CPU.
import torch
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s.pt") # PyTorch
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s.torchscript") # TorchScript
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s.onnx") # ONNX
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s_openvino_model/") # OpenVINO
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s.engine") # TensorRT
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s.mlmodel") # CoreML (macOS-only)
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s.tflite") # TFLite
model = torch.hub.load("ultralytics/yolov5", "custom", path="yolov5s_paddle_model/") # PaddlePaddleПоддерживаемые среды#
Ultralytics предоставляет набор готовых к использованию окружений, каждое из которых предварительно оснащено основными зависимостями, такими как CUDA, CUDNN, Python и PyTorch, чтобы ты мог сразу приступить к своим проектам.
- Бесплатные блокноты с GPU:
- Google Cloud: краткое руководство по GCP
- Amazon: краткое руководство по AWS
- Azure: краткое руководство по AzureML
- Docker: Краткое руководство по Docker
Статус проекта#
Этот значок показывает, что все тесты непрерывной интеграции (CI) в GitHub Actions YOLOv5 успешно проходят. Эти тесты CI тщательно проверяют функциональность и производительность YOLOv5 по нескольким ключевым направлениям: обучение, валидация, инференс, экспорт и бенчмарки. Они обеспечивают стабильную и надежную работу на macOS, Windows и Ubuntu; тесты выполняются каждые 24 часа и при каждом новом коммите.