التدريب متعدد وحدات معالجة الرسوميات (Multi-GPU) باستخدام YOLOv5

يشرح هذا الدليل كيفية استخدام وحدات معالجة الرسوميات المتعددة بشكل صحيح لتدريب مجموعة بيانات باستخدام YOLOv5 🚀 على جهاز واحد أو أجهزة متعددة.

قبل أن تبدأ

استنساخ المستودع وتثبيت requirements.txt في بيئة Python>=3.8.0، بما في ذلك PyTorch>=1.8. يتم تنزيل النماذج و مجموعات البيانات تلقائيًا من أحدث إصدار YOLOv5.

git clone https://github.com/ultralytics/yolov5 # clone
cd yolov5
pip install -r requirements.txt # install

التدريب

حدد نموذجًا مدربًا مسبقًا لبدء التدريب منه. هنا نختار YOLOv5s، أصغر وأسرع نموذج متاح. راجع جدول README للحصول على مقارنة كاملة لجميع النماذج. سنقوم بتدريب هذا النموذج باستخدام وحدة معالجة الرسومات GPU على COCO COCO.

وحدة معالجة رسومية واحدة (Single GPU)

python train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0

وضع DataParallel لوحدة معالجة الرسومات المتعددة (⚠️ غير مستحسن)

يمكنك زيادة ال device لاستخدام وحدات معالجة الرسوميات المتعددة في وضع DataParallel.

python train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0,1

هذه الطريقة بطيئة وبالكاد تسرع التدريب مقارنة باستخدام GPU واحد فقط.

وضع DistributedDataParallel متعدد وحدات معالجة الرسوميات (✅ مُوصى به)

سيتعين عليك اجتياز python -m torch.distributed.run --nproc_per_node، متبوعًا بالحجج المعتادة.

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --weights yolov5s.pt --device 0,1

• --nproc_per_node يحدد عدد وحدات معالجة الرسومات (GPU) التي ترغب في استخدامها. في المثال أعلاه، هو 2.
• --batch يمثل الحجم الكلي للدُفعة (batch-size). سيتم تقسيمه بالتساوي على كل وحدة معالجة رسومية (GPU). في المثال أعلاه، يكون 64/2=32 لكل وحدة معالجة رسومية.

سيستخدم الكود أعلاه وحدات معالجة الرسوميات GPUs. 0... (N-1). يمكنك أيضًا تعيين CUDA_VISIBLE_DEVICES=2,3 (أو أي قائمة أخرى) قبل تشغيل الأمر إذا كنت تفضل التحكم في رؤية الجهاز عبر متغيرات البيئة.

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --device 2,3

python -m torch.distributed.run --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --sync-bn

# On master machine 0
python -m torch.distributed.run --nproc_per_node G --nnodes N --node_rank 0 --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

# On machine R
python -m torch.distributed.run --nproc_per_node G --nnodes N --node_rank R --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

ملاحظات

• دعم Windows غير مُختبر، يوصى باستخدام Linux.
• --batch يجب أن يكون مضاعفًا لعدد وحدات معالجة الرسوميات.
• ستستهلك GPU 0 ذاكرة أكبر قليلاً من وحدات معالجة الرسومات الأخرى لأنها تحافظ على EMA وهي مسؤولة عن نقاط التحقق وما إلى ذلك.

• إذا حصلت على RuntimeError: Address already in use، قد يكون ذلك بسبب تشغيلك لعمليات تدريب متعددة في وقت واحد. لإصلاح ذلك، ما عليك سوى استخدام رقم منفذ مختلف عن طريق إضافة. --master_port كما في الأسفل:

  python -m torch.distributed.run --master_port 1234 --nproc_per_node 2 ...
  

النتائج

نتائج التنميط DDP على مثيل AWS EC2 P4d على مثيل AWS EC2 P4d مع 8x A100 SXM4-40GB لـ YOLOv5lلمدة 1 COCO .

# prepare
t=ultralytics/yolov5:latest && sudo docker pull $t && sudo docker run -it --runtime=nvidia --ipc=host --gpus all -v "$(pwd)"/coco:/usr/src/coco $t
pip3 install torch==1.9.0+cu111 torchvision==0.10.0+cu111 -f https://download.pytorch.org/whl/torch_stable.html
cd .. && rm -rf app && git clone https://github.com/ultralytics/yolov5 -b master app && cd app
cp data/coco.yaml data/coco_profile.yaml

# profile
python train.py --batch-size 16 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0
python -m torch.distributed.run --nproc_per_node 2 train.py --batch-size 32 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1
python -m torch.distributed.run --nproc_per_node 4 train.py --batch-size 64 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1,2,3
python -m torch.distributed.run --nproc_per_node 8 train.py --batch-size 128 --data coco_profile.yaml --weights yolov5l.pt --epochs 1 --device 0,1,2,3,4,5,6,7

كما هو موضح في النتائج، يوفر استخدام DistributedDataParallel مع وحدات معالجة الرسومات المتعددة تحجيمًا خطيًا تقريبًا في سرعة التدريب. مع 8 وحدات معالجة رسومات، يكتمل التدريب أسرع بحوالي 6.5 مرة مما هو عليه مع وحدة معالجة رسومات واحدة، مع الحفاظ على نفس استخدام الذاكرة لكل جهاز.

الأسئلة الشائعة

إذا حدث خطأ، يرجى قراءة قائمة التحقق أدناه أولاً! (قد يوفر وقتك)

البيئات المدعومة

توفر Ultralytics مجموعة من البيئات الجاهزة للاستخدام، كل منها مثبت مسبقًا بالتبعيات الأساسية مثل CUDA و CUDNN و Python و PyTorch، لبدء مشاريعك.

• دفاتر ملاحظات GPU مجانية:
• Google Cloud: دليل البدء السريع في GCP
• Amazon: دليل البدء السريع في AWS
• Azure: دليل البدء السريع في AzureML
• Docker: دليل البدء السريع لـ Docker

حالة المشروع

تشير هذه الشارة إلى أن جميع اختبارات التكامل المستمر (CI) لـ YOLOv5 GitHub Actions قد اجتازت بنجاح. تتحقق اختبارات CI هذه بدقة من وظائف وأداء YOLOv5 عبر مختلف الجوانب الرئيسية: التدريب، التحقق، الاستدلال، التصدير، و المعايير. وهي تضمن تشغيلًا متسقًا وموثوقًا على أنظمة macOS و Windows و Ubuntu، مع إجراء الاختبارات كل 24 ساعة وعند كل commit جديد.

تقدير

نود أن نشكر @MagicFrogSJTU، الذي قام بكل العمل الشاق، و @glenn-jocher لتوجيهنا على طول الطريق.

انظر أيضاً

• وضع التدريب - تعرف على تدريب نماذج YOLO باستخدام Ultralytics
• ضبط المعلمات الفائقة - حسّن أداء النموذج الخاص بك
• دليل البدء السريع لـ Docker - قم بإعداد بيئة Docker الخاصة بك للتدريب

📅 تم إنشاؤها منذ 2 سنوات مضت ✏️ تم التحديث منذ 1 يوم

تعليقات