التدريب باستخدام وحدات GPU متعددة مع YOLOv5#

يشرح هذا الدليل كيفية تدريب YOLOv5 باستخدام وحدات GPU متعددة على جهاز واحد أو عبر أجهزة متعددة.

قبل البدء#

استنسخ المستودع وثبّت requirements.txt في بيئة Python>=3.8.0، بما في ذلك PyTorch>=1.8. تُنزّل النماذج ومجموعات البيانات تلقائيًا من إصدار YOLOv5 الأحدث.

git clone https://github.com/ultralytics/yolov5 # clone
cd yolov5
pip install -r requirements.txt # install

التدريب#

اختر نموذجًا مدرّبًا مسبقًا لبدء التدريب به. اخترنا هنا YOLOv5s، وهو نموذج صغير وسريع. راجع جدول ملف README للمقارنة الكاملة بين جميع النماذج. سندرّب هذا النموذج باستخدام وحدات GPU متعددة على مجموعة بيانات COCO.

وحدة GPU واحدة#

python train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0

وضع DataParallel متعدد وحدات GPU (⚠️ غير موصى به)#

مرّر معرّفات وحدات GPU متعددة إلى --device لتفعيل وضع DataParallel:

python train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0,1

يتميّز DataParallel بالبطء، ولا يسرّع التدريب إلا قليلًا مقارنةً باستخدام وحدة GPU واحدة.

وضع DistributedDataParallel متعدد وحدات GPU (✅ موصى به)#

أضف python -m torch.distributed.run --nproc_per_node في بداية أمر التدريب، ثم مرّر الوسائط المعتادة:

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0,1

• يمثل --nproc_per_node عدد وحدات GPU المطلوب استخدامها. في المثال أعلاه، قيمته 2.
• يمثل --batch إجمالي حجم الدفعة، موزعًا بالتساوي على وحدات GPU. في المثال أعلاه، يبلغ الحجم 64 / 2 = 32 لكل وحدة GPU.

يستخدم الأمر أعلاه وحدات GPU 0...(N-1). للتحكم في ظهور الأجهزة عبر متغيرات البيئة بدلًا من ذلك، عيّن CUDA_VISIBLE_DEVICES=2,3 (أو أي قائمة أخرى) قبل التشغيل.

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --device 2,3

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --sync-bn

# On master machine 0
python -m torch.distributed.run --nproc_per_node G --nnodes N --node_rank 0 --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

# On machine R
python -m torch.distributed.run --nproc_per_node G --nnodes N --node_rank R --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

ملاحظات#

• لم يُختبر دعم Windows؛ ويوصى باستخدام Linux.

• يجب أن يكون --batch من مضاعفات عدد وحدات GPU.

• تستهلك GPU 0 ذاكرة أكبر قليلًا من الوحدات الأخرى لأنها تحتفظ بمتوسط أسي متحرك (EMA) وتتولى حفظ نقاط التحقق.

• إذا ظهر لك RuntimeError: Address already in use، فهذا يعني عادةً أن عمليات تدريب متعددة تستخدم المنفذ نفسه. حدّد منفذًا مختلفًا باستخدام --master_port:

  python -m torch.distributed.run --master_port 1234 --nproc_per_node 2 ...

النتائج#

نتائج تحديد مواصفات الأداء لـ DDP على مثيل AWS EC2 P4d مزود بـ 8 وحدات A100 SXM4-40GB لنموذج YOLOv5l خلال حقبة واحدة من COCO.

# prepare
t=ultralytics/yolov5:latest && sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all -v "$(pwd)"/coco:/usr/src/coco $t
pip3 install torch==1.9.0+cu111 torchvision==0.10.0+cu111 -f https://download.pytorch.org/whl/torch_stable.html
cd .. && rm -rf app && git clone https://github.com/ultralytics/yolov5 -b master app && cd app
cp data/coco.yaml data/coco_profile.yaml

# profile
python train.py --batch-size 16 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0
python -m torch.distributed.run --nproc_per_node 2 train.py --batch-size 32 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1
python -m torch.distributed.run --nproc_per_node 4 train.py --batch-size 64 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1,2,3
python -m torch.distributed.run --nproc_per_node 8 train.py --batch-size 128 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1,2,3,4,5,6,7

كما توضح النتائج، يتيح استخدام DistributedDataParallel مع وحدات GPU متعددة زيادةً شبه خطية في سرعة التدريب. فباستخدام 8 وحدات GPU، يكتمل التدريب أسرع بنحو 6.5 مرة مقارنةً باستخدام وحدة GPU واحدة، مع الحفاظ على مقدار استهلاك الذاكرة نفسه لكل جهاز.

البيئات المدعومة#

توفر Ultralytics مجموعة من البيئات الجاهزة للاستخدام، وكل منها مثبت مسبقًا به التبعيات الأساسية مثل CUDA وCUDNN وPython وPyTorch، لتتمكن من بدء مشاريعك.

• دفاتر GPU مجانية:
• Google Cloud: دليل البدء السريع لـ GCP
• Amazon: دليل البدء السريع لـ AWS
• Azure: دليل البدء السريع لـ AzureML
• Docker: دليل البدء السريع لـ Docker

حالة المشروع#

تشير هذه الشارة إلى اجتياز جميع اختبارات التكامل المستمر (CI) الخاصة بـ إجراءات YOLOv5 على GitHub بنجاح. وتتحقق اختبارات CI بدقة من وظائف YOLOv5 وأدائه في جوانب رئيسية متعددة: التدريب والتحقق والاستدلال والتصدير واختبارات الأداء. وهي تضمن التشغيل المتسق والموثوق على macOS وWindows وUbuntu، مع إجراء الاختبارات كل 24 ساعة وعند كل إيداع جديد.

الشكر والتقدير#

نود أن نشكر @MagicFrogSJTU على إنجاز الجزء الأكبر من العمل، و@glenn-jocher على إرشادنا طوال الطريق.

انظر أيضًا#

• وضع التدريب - تعرّف على تدريب نماذج YOLO باستخدام Ultralytics
• ضبط المعلمات الفائقة - حسّن أداء نموذجك
• دليل البدء السريع لـ Docker - أعدّ بيئة Docker للتدريب

الأسئلة الشائعة#

اقرأ قائمة التحقق أدناه قبل فتح issue — فهذا يوفر الوقت غالبًا.