Начать

Узнай об Ultralytics YOLOv8

Обзор#

Ultralytics выпустила YOLOv8 10 января 2023 года. По сравнению с предыдущими версиями YOLO она обеспечивает более высокую точность и скорость. Развивая предыдущие версии, YOLOv8 получила новые функции и оптимизации, благодаря которым стала отличным выбором для обнаружения объектов и других задач компьютерного зрения в самых разных приложениях. Для новых проектов Ultralytics рекомендует YOLO26.

Графики сравнения производительности YOLOv8



Смотри: Обзор модели Ultralytics YOLOv8
Попробовать на платформе Ultralytics

Изучай модели YOLOv8 и запускай их прямо на платформе Ultralytics.

Input
Upload an image or select an example to test yolov8n. Predict Docs
Live Demo

Drop an image here

or click to browse

Supports JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP & more (max 10MB)

Confidence
0.25
IoU
0.50
Image Size
640
Prediction results will appear here.

Ключевые особенности YOLOv8#

  • Современные архитектуры backbone и neck: YOLOv8 использует передовые архитектуры backbone и neck, обеспечивая более качественное извлечение признаков и повышая точность обнаружения объектов.
  • Разделённая безанкерная голова Ultralytics: YOLOv8 использует безанкерную разделённую голову Ultralytics, которая обеспечивает более высокую точность и эффективное обнаружение по сравнению с подходами на основе якорей.
  • Оптимальный компромисс между точностью и скоростью: YOLOv8 ориентирована на оптимальный баланс точности и скорости и подходит для задач обнаружения объектов в реальном времени в самых разных областях применения.
  • Разнообразие предварительно обученных моделей: YOLOv8 предлагает широкий выбор предварительно обученных моделей для разных задач и требований к производительности, упрощая выбор подходящей модели для конкретного сценария использования.

Поддерживаемые задачи и режимы#

В серию YOLOv8 входит множество моделей, каждая из которых предназначена для конкретных задач компьютерного зрения. Модели рассчитаны на разные потребности: от обнаружения объектов до более сложных задач, таких как сегментация экземпляров, классификация, обнаружение позы/ключевых точек и обнаружение объектов с заданной ориентацией.

Каждый вариант YOLOv8 оптимизирован для своей задачи. Все варианты поддерживают режимы обучения, валидации, инференса и экспорта, охватывая все этапы — от разработки до развёртывания.

МодельИмена файловЗадачаОбучениеВалидацияИнференсЭкспорт
YOLOv8yolov8n.pt yolov8s.pt yolov8m.pt yolov8l.pt yolov8x.ptОбнаружение✅✅✅✅
YOLOv8-segyolov8n-seg.pt yolov8s-seg.pt yolov8m-seg.pt yolov8l-seg.pt yolov8x-seg.ptСегментация экземпляров✅✅✅✅
YOLOv8-clsyolov8n-cls.pt yolov8s-cls.pt yolov8m-cls.pt yolov8l-cls.pt yolov8x-cls.ptКлассификация✅✅✅✅
YOLOv8-poseyolov8n-pose.pt yolov8s-pose.pt yolov8m-pose.pt yolov8l-pose.pt yolov8x-pose.pt yolov8x-pose-p6.ptПоза/ключевые точки✅✅✅✅
YOLOv8-obbyolov8n-obb.pt yolov8s-obb.pt yolov8m-obb.pt yolov8l-obb.pt yolov8x-obb.ptОбнаружение ориентированных объектов✅✅✅✅

В этой таблице представлены варианты моделей YOLOv8, выполняемые ими задачи и поддерживаемые режимы обучения, валидации, инференса и экспорта.

Метрики производительности#

Производительность

Примеры использования этих моделей, обученных на COCO и включающих 80 предобученных классов, см. в документации по обнаружению объектов.

Модельразмер
(пиксели)
mAPval50-95Скорость
CPU ONNX
(мс)
Скорость
A100 TensorRT
(мс)
параметры
(M)
FLOPs
(B)
YOLOv8n64037.380.40.993.28.7
YOLOv8s64044.9128.41.2011.228.6
YOLOv8m64050.2234.71.8325.978.9
YOLOv8l64052.9375.22.3943.7165.1
YOLOv8x64053.9479.13.5368.2257.8

Примеры использования YOLOv8#

В этом примере приведены простые примеры обучения и инференса YOLOv8.

Обрати внимание: пример ниже предназначен для моделей YOLOv8 Detect, используемых для обнаружения объектов. О других поддерживаемых задачах см. документацию по Segment, Classify, Pose и OBB.

Пример

Предобученные модели *.pt на базе PyTorch, а также файлы конфигурации *.yaml можно передать классу YOLO(), чтобы создать экземпляр модели в Python:

from ultralytics import YOLO

# Загружаем предварительно обученную на COCO модель YOLOv8n
model = YOLO("yolov8n.pt")

# Показать информацию о модели (необязательно)
model.info()

# Обучить модель на демонстрационном наборе данных COCO8 в течение 100 эпох
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

# Запускаем инференс с моделью YOLOv8n на изображении 'bus.jpg'
results = model("path/to/bus.jpg")

Цитирование и благодарности#

Публикация Ultralytics YOLOv8

Ultralytics не публиковала научную статью о YOLOv8, поскольку модели быстро развиваются. Мы сосредоточены на совершенствовании технологий и упрощении их использования, а не на создании статичной документации. Самую актуальную информацию об архитектуре YOLO, её функциях и использовании см. в нашем репозитории GitHub и документации.

Если ты используешь модель YOLOv8 или любое другое программное обеспечение из этого репозитория в своей работе, укажи ссылку на него в следующем формате:

Цитирование
@software{yolov8_ultralytics,
  author = {Glenn Jocher and Ayush Chaurasia and Jing Qiu},
  title = {Ultralytics YOLOv8},
  version = {8.0.0},
  year = {2023},
  url = {https://github.com/ultralytics/ultralytics},
  orcid = {0000-0001-5950-6979, 0000-0002-7603-6750, 0000-0003-3783-7069},
  license = {AGPL-3.0}
}

Модели YOLOv8 распространяются по лицензиям AGPL-3.0 и Enterprise.

Часто задаваемые вопросы#

  • YOLOv8 разработана для улучшения обнаружения объектов в реальном времени. В отличие от предыдущих версий, YOLOv8 использует разделённую безанкерную голову Ultralytics и передовые архитектуры основы и шеи, обеспечивая оптимальный баланс точности и скорости для самых разных приложений.

  • YOLOv8 поддерживает широкий спектр задач компьютерного зрения, включая обнаружение объектов, сегментацию экземпляров, классификацию, обнаружение позы/ключевых точек и обнаружение ориентированных объектов. Каждый вариант модели оптимизирован для своей задачи и поддерживает режимы обучения, валидации, инференса и экспорта.

  • На момент выпуска модели YOLOv8 показывали лучшие результаты на нескольких тестовых наборах данных. Например, модель YOLOv8n достигает средней точности (mAP) 37,3 на наборе данных COCO и скорости 0,99 мс на A100 TensorRT. Подробные показатели производительности каждого варианта модели для разных задач и наборов данных смотри в разделе показателей производительности.

  • Ты можешь обучить модель YOLOv8 с помощью Python или CLI. Ниже приведены примеры обучения предварительно обученной на COCO модели YOLOv8n на наборе данных COCO8 в течение 100 эпох:

    Пример
    from ultralytics import YOLO
    
    # Загружаем предварительно обученную на COCO модель YOLOv8n
    model = YOLO("yolov8n.pt")
    
    # Обучить модель на демонстрационном наборе данных COCO8 в течение 100 эпох
    results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

    Дополнительную информацию см. в документации по обучению.

  • Да, модели YOLOv8 можно тестировать на производительность по скорости и точности в разных форматах экспорта, таких как PyTorch, ONNX и TensorRT. Ниже приведены примеры команд для тестирования с помощью Python и CLI:

    Пример
    from ultralytics.utils.benchmarks import benchmark
    
    # Сравнительный тест на GPU
    benchmark(model="yolov8n.pt", data="coco8.yaml", imgsz=640, device=0)

    Дополнительную информацию см. в разделе Метрики производительности.

Комментарии356

Задай вопрос, поделись результатами или помоги кому-нибудь.

  1. YscreamGitHub(изменено)

    hey there! can you help me to handle error which i get every time when run train increasing batch and imgsz options, please? first of all, i have a powerful enough computer. RTX 3090 24gb, Ryzen 9 7950X3D 16-Core, 128gb RAM if i run train with following options results = model.train(data=f'{database_foldername}data.yaml', cfg=cfg_filename, epochs=epochs, imgsz=640, batch=8, device=0) it works quit good, and it uses about 3-4gb GPU_MEM, but i want to change imgsz to 1280 to increase accuracy of model and when i run train with this changed option i always got different errors, like: RuntimeError: cuDNN error: CUDNN_STATUS_EXECUTION_FAILED RuntimeError: CUDA error: device-side assert triggered Compile with TORCH_USE_CUDA_DSA to enable device-side assertions. RuntimeError: CUDA error: an illegal memory access was encountered Compile with TORCH_USE_CUDA_DSA to enable device-side assertions. RuntimeError: Pin memory thread exited unexpectedly terminate called without an active exception

    and as i wrote earlier it throw different every time. i tride run with CUDA_LAUNCH_BLOCKING=1, but nothing changed

    help!!! i want to use all the power of my graphics card

    2
    1. Paula DerrengerUltralytics

      @Yscream it sounds like you're encountering memory-related issues when increasing the image size during training. Given your powerful hardware, this is likely due to the increased memory demands of larger images. Here are a few suggestions to help mitigate these errors:

      1. Reduce Batch Size: Try lowering the batch size when increasing the image size. For example, if you're using imgsz=1280, you might need to reduce the batch size to 2 or even 1 to fit within the GPU memory limits.

      2. Mixed Precision Training: Enable mixed precision training by setting amp=True in your training arguments. This can help reduce memory usage and potentially improve training speed.

      3. Check for Software Updates: Ensure you are using the latest versions of PyTorch, CUDA, and cuDNN. Sometimes, updating these can resolve compatibility and performance issues.

      4. Debugging: Use CUDA_LAUNCH_BLOCKING=1 to get more detailed error messages, which can help pinpoint the exact cause of the issue.

      If the problem persists, please try these steps and let us know if you encounter any specific errors. This will help us provide more targeted assistance.

  2. xuan2261GitHub

    "# Improved YOLOv8 with BiFormer, Fusion Blocks, MS-Block, DConv, ECA, Ghost Module, and Focal Loss

    Parameters

    nc: 9 # number of classes scales:

    [depth, width, max_channels]

    n: [0.33, 0.25, 1024]
    s: [0.33, 0.50, 1024]
    m: [0.67, 0.75, 768]
    l: [1.00, 1.00, 512]
    x: [1.00, 1.25, 512]

    Backbone (ensure specific feature sizes: 160×160×128, 80×80×256, 40×40×512, 20×20×512)

    backbone:

    [from, repeats, module, args]

    • [-1, 1, GhostModule, [64, 3, 2]] # 0-P1/2 -> output 320×320×64, using Ghost Module to reduce computation
    • [-1, 1, Conv, [128, 3, 2, Mish]] # 1-P2/4 -> output 160×160×128, using Mish activation
    • [-1, 3, C2f_DM, [128, True]] # output 160×160×128
    • [-1, 1, MS-Block, [128, 3, [3, 5, 7], True]] # MS-Block with residual connections for multi-scale feature extraction
    • [-1, 1, Conv, [256, 3, 2, Mish]] # 3-P3/8 -> output 80×80×256, using Mish activation
    • [-1, 6, C2f_DM, [256, True]] # output 80×80×256
    • [-1, 1, MS-Block, [256, 3, [3, 5, 7], True]] # MS-Block for P3/8 with residual connections
    • [-1, 1, Conv, [512, 3, 2, Mish]] # 5-P4/16 -> output 40×40×512, using Mish activation
    • [-1, 6, C2f_DM, [512, True]] # output 40×40×512
    • [-1, 1, MS-Block, [512, 3, [3, 5, 7], True]] # MS-Block for P4/16 with residual connections
    • [-1, 1, Conv, [1024, 3, 2, Mish]] # 7-P5/32 -> output 20×20×512, using Mish activation
    • [-1, 3, C2f_DM, [1024, True]] # output 20×20×512
    • [-1, 1, MS-Block, [1024, 3, [3, 5, 7], True]] # MS-Block for P5/32 with residual connections
    • [-1, 1, SPPF, [1024, 5]] # Spatial Pyramid Pooling Fast -> output 20×20×512

    Neck with Fusion Blocks, MS-Block, BiFormer, DConv, and ECA (replacing Concat)

    neck:

    [from, repeats, module, args]

    • [-1, 1, nn.Upsample, [None, 2, 'nearest']]

    • [[-1, 6], 1, Fusion_Block, [512]] # Fusion Block replacing Concat for backbone P4

    • [-1, 3, C2f_Att, [512]] # C2F-Att with Attention Mechanism

    • [-1, 1, BiFormer, [512]] # BiFormer added for enhanced spatial relationships

    • [-1, 1, DConv, [512, 3]] # Adding Dynamic Convolution

    • [-1, 1, ECA, [512]] # Adding Efficient Channel Attention

    • [-1, 1, MS-Block, [512, 3, [3, 5, 7], True]] # MS-Block for multi-scale feature extraction in Neck

    • [-1, 1, nn.Upsample, [None, 2, 'nearest']]

    • [[-1, 4], 1, Fusion_Block, [256]] # Fusion Block replacing Concat for backbone P3

    • [-1, 3, C2f_Att, [256]] # P3/8-small

    • [-1, 1, BiFormer, [256]] # BiFormer added for P3

    • [-1, 1, DConv, [256, 3]] # Adding Dynamic Convolution for P3

    • [-1, 1, ECA, [256]] # Adding Efficient Channel Attention for P3

    • [-1, 1, MS-Block, [256, 3, [3, 5, 7], True]] # MS-Block for P3 in Neck

    • [-1, 1, Conv, [256, 3, 2, Mish]]

    • [[-1, 12], 1, Fusion_Block, [512]] # Fusion Block replacing Concat for head P4

    • [-1, 3, C2f_Att, [512]] # P4/16-medium

    • [-1, 1, BiFormer, [512]] # BiFormer added for P4

    • [-1, 1, DConv, [512, 3]] # Adding Dynamic Convolution for P4

    • [-1, 1, ECA, [512]] # Adding Efficient Channel Attention for P4

    • [-1, 1, MS-Block, [512, 3, [3, 5, 7], True]] # MS-Block for P4 in Neck

    • [-1, 1, Conv, [512, 3, 2, Mish]]

    • [[-1, 9], 1, Fusion_Block, [1024]] # Fusion Block replacing Concat for head P5

    • [-1, 3, C2f_Att, [1024]] # P5/32-large

    • [-1, 1, BiFormer, [1024]] # BiFormer added for P5

    • [-1, 1, DConv, [1024, 3]] # Adding Dynamic Convolution for P5

    • [-1, 1, ECA, [1024]] # Adding Efficient Channel Attention for P5

    • [-1, 1, MS-Block, [1024, 3, [3, 5, 7], True]] # MS-Block for P5 in Neck

    Adding a fourth detecting head for improved detection at different scales

    • [-1, 1, Conv, [128, 3, 2, Mish]]
    • [[-1, 3], 1, Fusion_Block, [128]] # new Fusion Block for smaller objects
    • [-1, 3, C2f_Att, [128]] # P6/64-smaller objects
    • [-1, 1, BiFormer, [128]] # BiFormer added for P6
    • [-1, 1, DConv, [128, 3]] # Adding Dynamic Convolution for P6
    • [-1, 1, ECA, [128]] # Adding Efficient Channel Attention for P6
    • [-1, 1, MS-Block, [128, 3, [3, 5, 7], True]] # MS-Block for P6 in Neck

    Head

    head:

    • [[17, 21, 25, 29], 1, Detect, [nc]] # Detect(P3, P4, P5, P6)

    Loss Function

    loss: name: FocalLoss # Using Focal Loss for better handling of small object detection" If I change the new structure like this, then I can add code for new modules, blocks: GhostModule, C2f_DM, MS-Block, BiFormer, .... to which files?

    1
    1. Glenn JocherUltralytics

      @xuan2261 to integrate new modules like GhostModule and BiFormer, you'll need to modify the model architecture files in the Ultralytics repository. Specifically, look into the models directory where the architecture is defined, and add your custom modules there. Ensure you also update any relevant configuration files to reflect these changes.

  3. Wenlong914GitHub

    有没有人能为我解答一下,训练数据集过程中的权重文件也能用吗?为什么训练过程中的权重文件比训练结束后的大?

    1
    1. Paula DerrengerUltralytics

      您好!在训练过程中保存的权重文件通常会比训练完成后的权重文件大,这是因为它们可能包含额外的信息,比如优化器状态和用于继续训练的其他元数据。完成训练后,通常只会保存用于推断的模型参数,不包含训练期间需要的额外信息。

      对于在训练过程中的权重文件,您完全可以使用它们来继续训练或进行预测,这在处理意外中断的训练时特别有用。如果您想验证模型的性能,或者希望进行一些测试,加载这些权重然后运行验证或推理是非常合适的。

      希望这能帮助您!如果有更多问题,欢迎随时提问。🙂

      1
  4. haolele123GitHub

    作者您好,我想训练yolov8m-p2的版本,我在想能否使用yolov8的模型权重作为预训练权重,且我发现似乎没有yolov8-p2的m的版本这个怎末决解呢

    1
    1. Paula DerrengerUltralytics(изменено)

      您好!😊 感谢您对 YOLOv8 模型的兴趣!

      yolov8m-p2 没有单独的预训练权重,但可以直接使用 P2 配置文件训练:yolov8-p2.yaml 支持 n/s/m/l/x 各个规模,指定 yolov8m-p2.yaml 即可构建 m 规模的 P2 模型。同时可以用 yolov8m.pt 作为预训练权重,形状匹配的层会被加载,P2 新增的层则随机初始化:

      yolo train model=yolov8m-p2.yaml pretrained=yolov8m.pt data=your_dataset.yaml epochs=100 imgsz=640

      如果直接使用 model=yolov8m.pt,训练的是标准 YOLOv8m,没有 P2 检测头。如需新的项目,也建议考虑 YOLO26。

      希望这有所帮助!如果还有其他问题,欢迎随时提问。祝您训练顺利!🚀

    1. Glenn JocherUltralytics

      可以,提升这类场景下 person 识别率最有效的方法通常是用海滩/球场相似数据做微调,增大 imgsz(如 960 或 1280)提升远处小目标召回,适当降低 conf,并优先尝试更强的模型如 Ultralytics YOLO26;如果你愿意,也欢迎把几张样例图和当前训练配置发到 Ultralytics Discussions,这样团队更容易帮你定位具体瓶颈。

  5. siddannamdGitHub

    I came to know that YOLOv8 is capable of tracking objects. I am currently working on a robotics model that includes object detection and object tracking. Can YOLOv8 perform both detection and tracking simultaneously? Also, you didn’t mention the benchmark for object tracking compared to other models.

    1. Glenn JocherUltralytics

      Yes—YOLOv8 can do detection and tracking in the same run via track mode (it detects each frame, then assigns persistent IDs with a tracker); see the Multi-Object Tracking (Track mode) docs (works with YOLOv8 Detect/Seg/Pose models listed on the YOLOv8 page).

      yolo track model=yolov8n.pt source=path/to/video.mp4 tracker="bytetrack.yaml"

      We don’t publish a single “tracking benchmark vs other models” on the YOLOv8 model page because results vary a lot with tracker choice (botsort.yaml vs bytetrack.yaml), input FPS/resolution, and the evaluation set; if you share your target objects + a short sample video (or which MOT-style benchmark you’re using) here in the discussion, we can suggest a solid baseline config to compare fairly.

  6. AniruddhaAiGitHub

    I am trying to use yolov8m.pt's backbone for feature extractor. Why does it force download the coco dataset? Is there a way I could just load the weights rather downloading the data? I need to extract the features from custom dataset

    1. Glenn JocherUltralytics

      Loading yolov8m.pt should only download the weights; the COCO download is triggered when you run train()/val() (or anything that uses a COCO data=... YAML, including defaults). For feature extraction on your own images, use embeddings directly (no dataset download) via Model.embed() on your custom image folder/file:

      from ultralytics import YOLO
      
      model = YOLO("yolov8m.pt")          # weights only
      embeddings = model.embed(source="path/to/images")  # your custom data
  7. liuna471658955GitHub

    Hi,dears, i'm new of YoLoV8, can you help see is there any thing can be improved of my below code?

    from PIL import Image from ultralytics import YOLO import glob import os import numpy as np from tqdm import tqdm import torch from concurrent.futures import ThreadPoolExecutor

    class Predict def init(self, batch_size=8, imgsz=640, conf_thres=0.25, iou_thres=0.45, half=True, device=cuda0)

        初始化优化后的推理类
        param batch_size 批量推理大小(根据GPU显存调整)
        param imgsz 推理图片尺寸(建议为32的倍数)
        param conf_thres 置信度阈值(过滤低置信度预测)
        param iou_thres NMS的IOU阈值(控制重复框)
        param half 是否使用半精度推理(FP16,提速且不损失精度)
        param device 推理设备(cudacpumps)
        
        self.model_path = homejovyanworkstudentmodelsyolo_train4weightsbest.pt
        self.device = torch.device(device if torch.cuda.is_available() else cpu)
        self.model = YOLO(self.model_path).to(self.device)
        
        # 核心推理参数
        self.batch_size = batch_size
        self.imgsz = imgsz
        self.conf_thres = conf_thres
        self.iou_thres = iou_thres
        self.half = half and torch.cuda.is_available()  # 仅GPU支持半精度
        
        # 预热模型(首次推理加速)
        self._warmup_model()
    
    def _warmup_model(self)
        模型预热:首次推理避免初始化耗时
        dummy_img = torch.randn(1, 3, self.imgsz, self.imgsz).to(self.device)
        if self.half
            dummy_img = dummy_img.half()
        self.model.predict(dummy_img, verbose=False, conf=self.conf_thres, iou=self.iou_thres, half=self.half)
    
    def _load_image(self, img_path)
        单张图片加载(封装为线程池调用)
        try
            with Image.open(img_path) as img
                img = img.convert(RGB)
                return img_path, img, None
        except Exception as e
            return img_path, None, str(e)
    
    def _batch_load_images(self, image_paths)
        批量加载图片(多线程提速)
        images = []
        valid_paths = []
        error_logs = []
        
        # 多线程加载图片(CPU密集型任务提速)
        with ThreadPoolExecutor(max_workers=4) as executor
            results = list(tqdm(executor.map(self._load_image, image_paths), total=len(image_paths), desc=Loading images))
        
        for path, img, err in results
            if err
                error_logs.append(fSkipping {path} {err})
                continue
            valid_paths.append(path)
            images.append(img)
        
        # 打印加载错误
        if error_logs
            for err in error_logs[5]  # 只打印前5个错误
                print(err)
        return valid_paths, images
    
    def detect(self, image_dir)
        
        优化后的推理主函数
        param image_dir 图片目录
        param use_tta 是否启用TTA(测试时增强,提升准确率,小幅增加耗时)
        return 推理结果列表
        
        # 1. 获取所有图片路径
        exts = [.jpg, .jpeg, .png, .JPG, .JPEG, .PNG]
        image_paths = []
        for ext in exts
            image_paths.extend(glob.glob(os.path.join(image_dir, ext)))
        if not image_paths
            print(No images found in directory!)
            return []
    
        # 2. 批量加载图片(多线程)
        valid_paths, images = self._batch_load_images(image_paths)
        if not valid_paths
            return []
    
        # 3. 分批次推理
        all_results = []
        num_batches = (len(valid_paths) + self.batch_size - 1)  self.batch_size
        
        for batch_idx in tqdm(range(num_batches), desc=Inferencing batches)
            # 切分批次
            start = batch_idx  self.batch_size
            end = min((batch_idx + 1)  self.batch_size, len(valid_paths))
            batch_paths = valid_paths[startend]
            batch_imgs = images[startend]
    
            # 4. 执行推理(核心优化)
            try
                results = self.model.predict(
                    source=batch_imgs,
                    imgsz=self.imgsz,          # 统一推理尺寸
                    conf=self.conf_thres,      # 置信度过滤
                    iou=self.iou_thres,        # NMS阈值
                    half=self.half,            # 半精度推理
                    device=self.device,        # 指定设备
                    verbose=False,             # 关闭日志
                    batch=self.batch_size,     # 批量大小
                  #  tta=use_tta,               # 测试时增强(可选)
                    max_det=100,               # 单图最大检测数
                    vid_stride=1,              # 视频步长(图片无效)
                    retina_masks=False         # 掩码细化(无掩码时关闭)
                )
            except Exception as e
                print(fBatch {batch_idx} inference failed {e})
                continue
    
            # 5. 解析结果(减少CPUGPU数据拷贝)
            for idx, result in enumerate(results)
                img_path = batch_paths[idx]
                image_name = os.path.basename(img_path)
                detections = []
    
                if result.boxes is not None and len(result.boxes)  0
                    # 批量转换数据(避免逐框循环拷贝)
                    cls = result.boxes.cls.cpu().numpy().astype(int).tolist()
                    boxes = result.boxes.xyxy.cpu().numpy().tolist()
                    scores = result.boxes.conf.cpu().numpy().astype(float).tolist()
    
                    # 生成检测结果
                    for c, b, s in zip(cls, boxes, scores)
                        detections.append({
                            cls int(c),
                            box [float(x) for x in b],
                         score round(float(s), 3)  # 保留3位小数,减少存储
                        })
    
                all_results.append({
                    image_name image_name,
                    detections detections,
                    image_path img_path
                })
    
        return all_results

    使用示例

    if name == main # 初始化优化后的推理器(根据GPU显存调整参数) pre = Predict( batch_size=16, # 批量大小(1080Ti建议8-16,A100建议32-64) imgsz=640, # 推理尺寸(训练时用640则保持一致) conf_thres=0.3, # 提高置信度阈值,过滤假阳性 iou_thres=0.4, # 降低IOU阈值,减少重复框 half=True, # 启用半精度推理 device=cuda0 # 指定GPU )

    # 执行推理(use_tta=True 提升准确率,耗时增加~30%)
    results = pre.detect(image_dir=homejovyanworkstudenttest)
    
    # 打印结果
    for idx, result in enumerate(results[3])  # 只打印前3个
        print(fImage {result['image_name']})
        print(fDetections {len(result['detections'])} objects)
        for det in result[detections]
            print(f  - Class {det['cls']}, Box {det['box']}, Score {det['score']})
        print(-  50)
    
    print(fTotal processed images {len(results)})
    1. Glenn JocherUltralytics

      Nice work putting this together; you can simplify it a lot by letting YOLO handle most of what you’re doing manually.

      A few concrete suggestions:

      1. Use the built‑in directory + batch inference instead of your own loader and batching. YOLO already scans a folder, loads images in parallel and batches them:
      from ultralytics import YOLO
      
      model = YOLO("best.pt")
      
      results = model.predict(
          source="path/to/images_dir",  # folder with images
          imgsz=640,
          conf=0.3,
          iou=0.4,
          device="cuda:0",             # or "cpu"
          batch=16,                    # batched inference
          half=True,                   # FP16 on GPU
          verbose=False
      )

      This gives you essentially the same effect as your Predict.detect() without the custom ThreadPoolExecutor, manual slicing, or warmup.

      1. Don’t call .to(self.device) on the YOLO object; instead, just pass device="cuda:0" (or "cpu") to predict() as above. That’s the supported pattern in the Python API.

      2. If you want to keep a small wrapper class, keep it thin and delegate everything to model.predict():

      class Predictor:
          def __init__(self, weights, device="cuda:0", imgsz=640, conf=0.3, iou=0.4, batch=16, half=True):
              self.model = YOLO(weights)
              self.device = device
              self.imgsz = imgsz
              self.conf = conf
              self.iou = iou
              self.batch = batch
              self.half = half and "cuda" in str(device)
      
          def __call__(self, image_dir):
              return self.model.predict(
                  source=image_dir,
                  imgsz=self.imgsz,
                  conf=self.conf,
                  iou=self.iou,
                  device=self.device,
                  batch=self.batch,
                  half=self.half,
                  verbose=False,
              )

      If you share what problem you’re trying to optimize (speed, memory, or result format), I can suggest more targeted tweaks; in the meantime, the built‑in batch directory inference in the Predict mode docs will usually be both faster and simpler than a custom pipeline.