التدريب باستخدام وحدات معالجة رسومية (GPU) متعددة مع YOLOv5#

يشرح هذا الدليل كيفية تدريب YOLOv5 باستخدام وحدات معالجة رسومية (GPU) متعددة على جهاز واحد أو عبر أجهزة متعددة.

قبل البدء#

استنسخ المستودع وقم بتثبيت requirements.txt في بيئة Python>=3.8.0، بما في ذلك PyTorch>=1.8. يتم تنزيل النماذج ومجموعات البيانات تلقائياً من أحدث إصدار لـ YOLOv5.

git clone https://github.com/ultralytics/yolov5 # clone
cd yolov5
pip install -r requirements.txt # install

التدريب#

اختر نموذجاً مدرباً مسبقاً لبدء التدريب منه. هنا نختار YOLOv5s، وهو نموذج صغير وسريع. راجع جدول ملف README الخاص بنا للحصول على مقارنة كاملة لجميع النماذج. سنقوم بتدريب هذا النموذج باستخدام وحدات معالجة رسومية متعددة (Multi-GPU) على مجموعة بيانات COCO.

وحدة معالجة رسومية (GPU) واحدة#

python train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0

وضع DataParallel لوحدات معالجة رسومية متعددة (⚠️ غير موصى به)#

قم تمرير معرفات وحدات معالجة رسومية متعددة إلى --device لتفعيل وضع DataParallel:

python train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0,1

يعد DataParallel بطيئًا ولا يسرع التدريب بشكل ملحوظ مقارنة باستخدام وحدة معالجة رسومية واحدة.

وضع DistributedDataParallel لوحدات معالجة رسومية متعددة (✅ موصى به)#

أسبق أمر التدريب بـ python -m torch.distributed.run --nproc_per_node، ثم مرر الوسائط المعتادة:

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0,1

• --nproc_per_node هو عدد وحدات معالجة الرسوميات المراد استخدامها. في المثال أعلاه، هو 2.
• --batch هو إجمالي حجم الدفعة (batch size)، مقسوماً بالتساوي على كل وحدة معالجة رسوميات. في المثال أعلاه، هذا هو 64 / 2 = 32 لكل وحدة معالجة رسوميات.

يستخدم الأمر أعلاه وحدات معالجة الرسوميات 0...(N-1). للتحكم في رؤية الجهاز من خلال متغيرات البيئة بدلاً من ذلك، قم بتعيين CUDA_VISIBLE_DEVICES=2,3 (أو أي قائمة أخرى) قبل البدء.

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --device 2,3

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --sync-bn

# On master machine 0
python -m torch.distributed.run --nproc_per_node G --nnodes N --node_rank 0 --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

# On machine R
python -m torch.distributed.run --nproc_per_node G --nnodes N --node_rank R --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

ملاحظات#

• دعم Windows غير مختبر؛ يُنصح باستخدام Linux.

• يجب أن يكون --batch مضاعفاً لعدد وحدات معالجة الرسوميات.

• تستخدم وحدة معالجة الرسومات 0 ذاكرة أكثر قليلاً من غيرها لأنها تحتفظ بـ EMA وتتعامل مع نقاط التحقق (checkpointing).

• إذا حصلت على RuntimeError: Address already in use، فهذا عادةً ما يعني أن عمليات تدريب متعددة تستخدم نفس المنفذ. حدد منفذاً مختلفاً باستخدام --master_port:

  python -m torch.distributed.run --master_port 1234 --nproc_per_node 2 ...

النتائج#

نتائج التنميط DDP على مثيل AWS EC2 P4d مع 8x A100 SXM4-40GB لنموذج YOLOv5l لـ حقبة واحدة لـ COCO.

# prepare
t=ultralytics/yolov5:latest && sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all -v "$(pwd)"/coco:/usr/src/coco $t
pip3 install torch==1.9.0+cu111 torchvision==0.10.0+cu111 -f https://download.pytorch.org/whl/torch_stable.html
cd .. && rm -rf app && git clone https://github.com/ultralytics/yolov5 -b master app && cd app
cp data/coco.yaml data/coco_profile.yaml

# profile
python train.py --batch-size 16 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0
python -m torch.distributed.run --nproc_per_node 2 train.py --batch-size 32 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1
python -m torch.distributed.run --nproc_per_node 4 train.py --batch-size 64 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1,2,3
python -m torch.distributed.run --nproc_per_node 8 train.py --batch-size 128 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1,2,3,4,5,6,7

كما هو موضح في النتائج، فإن استخدام DistributedDataParallel مع وحدات معالجة رسومية متعددة يوفر تحجيماً خطياً تقريباً في سرعة التدريب. مع 8 وحدات معالجة رسوميات، يكتمل التدريب بشكل أسرع بحوالي 6.5 مرة مقارنة بوحدة معالجة رسوميات واحدة، مع الحفاظ على نفس استهلاك الذاكرة لكل جهاز.

البيئات المدعومة#

توفر Ultralytics مجموعة من البيئات الجاهزة للاستخدام، وكل منها مثبت مسبقاً بالتبعيات الأساسية مثل CUDA، وCUDNN، وPython، وPyTorch، لبدء مشاريعك بسرعة.

• دفاتر ملاحظات مجانية لوحدات معالجة الرسومات:
• Google Cloud: GCP Quickstart Guide
• Amazon: دليل البدء السريع لـ AWS
• Azure: دليل البدء السريع لـ AzureML
• Docker: Docker Quickstart Guide

حالة المشروع#

تشير هذه الشارة إلى أن جميع اختبارات التكامل المستمر (CI) لـ YOLOv5 GitHub Actions تمر بنجاح. تتحقق اختبارات CI هذه بدقة من وظائف وأداء YOLOv5 عبر جوانب رئيسية مختلفة: training، وvalidation، وinference، وexport، وbenchmarks. وهي تضمن تشغيلاً متسقاً وموثوقاً على أنظمة macOS وWindows وUbuntu، مع إجراء اختبارات كل 24 ساعة ومع كل عملية commit جديدة.

شكر وتقدير#

نود أن نشكر @MagicFrogSJTU، الذي قام بجميع الأعمال الشاقة، و @glenn-jocher لتوجيهنا على طول الطريق.

شاهد أيضًا#

• وضع التدريب - تعرف على تدريب نماذج YOLO باستخدام Ultralytics
• ضبط المعلمات الفائقة - تحسين أداء نموذجك
• دليل البدء السريع لـ Docker - إعداد بيئة Docker الخاصة بك للتدريب

الأسئلة الشائعة#

اقرأ قائمة المراجعة أدناه قبل فتح إصدار (issue) - غالبًا ما يوفر ذلك الوقت.