ابدأ

تصدير نموذج YOLO26 إلى TorchScript للنشر السريع

تتوقف PyTorch عن استخدام TorchScript

لقد أوقفت PyTorch اعتماد TorchScript، وهي تعمل تدريجيًا على إزالة ميزاته. لعمليات النشر الجديدة على الأجهزة المحمولة والطرفية، استخدم تكامل ExecuTorch المدعوم. وتُبقي Ultralytics على إمكانية التصدير المعتادة إلى TorchScript لضمان التوافق مع C++ القديم.

يتطلب نشر نماذج الرؤية الحاسوبية في بيئات C++ من دون Python تمثيلًا تسلسليًا محمولًا. ويوفر TorchScript هذا التوافق لتطبيقات LibTorch القديمة.

صدّر إلى TorchScript لتسلسل نماذج Ultralytics YOLO26 وتوفير التوافق بين المنصات وتبسيط النشر. يوضح هذا الدليل كيفية تصدير نماذج YOLO26 إلى تنسيق TorchScript لاستخدامها عبر نطاق أوسع من التطبيقات.

لماذا ينبغي التصدير إلى TorchScript؟#

نظرة عامة على سير عمل تسلسل نماذج TorchScript ونشرها

TorchScript، الذي طوّره مبتكرو PyTorch، أداة لتحسين نماذج PyTorch ونشرها عبر مجموعة متنوعة من المنصات. ويساعد تصدير نماذج YOLO26 إلى TorchScript على نقلها من البحث إلى التطبيقات الواقعية. ويسهّل TorchScript، وهو جزء من إطار عمل PyTorch، هذا الانتقال من خلال إتاحة استخدام نماذج PyTorch في بيئات لا تدعم Python.

تتضمن العملية أسلوبين: التتبّع والبرمجة النصية. يسجل التتبّع العمليات أثناء تنفيذ النموذج، بينما تتيح البرمجة النصية تعريف النماذج باستخدام مجموعة فرعية من Python. ويسمح هذان الأسلوبان بتشغيل نماذج مثل YOLO26 خارج بيئتها المعتادة في Python.

مقارنة بين البرمجة النصية والتتبع في TorchScript

يمكن أيضًا تحسين نماذج TorchScript باستخدام تقنيات مثل دمج العوامل وتحسين استخدام الذاكرة، بما يضمن تنفيذها بكفاءة. ومن مزايا التصدير إلى TorchScript أيضًا إمكانية تسريع تنفيذ النماذج عبر منصات عتادية متنوعة. وينتج عن ذلك تمثيل مستقل وجاهز للإنتاج لنموذج PyTorch، يمكن دمجه في بيئات C++.

الميزات الأساسية لنماذج TorchScript#

يوفر TorchScript، وهو جزء أساسي من منظومة PyTorch، ميزات لتحسين نماذج التعلم العميق ونشرها.

نظرة عامة على الميزات الأساسية لـ TorchScript

فيما يلي الميزات الأساسية التي تجعل TorchScript أداة قيّمة للمطورين:

  • تنفيذ الرسم البياني الثابت: يستخدم TorchScript تمثيلًا ثابتًا للرسم البياني لحسابات النموذج، وهو يختلف عن تنفيذ الرسم البياني الديناميكي في PyTorch. في تنفيذ الرسم البياني الثابت، يُعرّف الرسم البياني الحسابي ويُترجم مرة واحدة قبل التنفيذ الفعلي، مما يؤدي إلى تحسين الأداء أثناء الاستدلال.

  • تسلسل النماذج: يتيح TorchScript تسلسل نماذج PyTorch إلى تنسيق مستقل عن المنصة. ويمكن تحميل النماذج المُسلسلة من دون الحاجة إلى شيفرة Python الأصلية، ما يتيح نشرها في بيئات تشغيل مختلفة.

  • الترجمة الفورية: يستخدم TorchScript الترجمة في الوقت المناسب (JIT) لتحويل نماذج PyTorch إلى تمثيل وسيط محسّن. ويترجم JIT الرسم البياني الحسابي للنموذج، مما يتيح تنفيذه بكفاءة على الأجهزة المستهدفة.

  • التحويل التدريجي: يوفر TorchScript نهجًا تدريجيًا للتحويل، يتيح لك تحويل أجزاء من نموذج PyTorch إلى TorchScript على مراحل. وتفيد هذه المرونة خصوصًا عند التعامل مع نماذج معقدة أو عند الرغبة في تحسين أجزاء محددة من الشيفرة.

خيارات النشر في TorchScript#

قبل استعراض شيفرة تصدير نماذج YOLO26 إلى تنسيق TorchScript، إليك الاستخدامات المعتادة لنماذج TorchScript.

يوفر TorchScript خيارات متنوعة لنشر نماذج تعلّم الآلة، مثل:

  • C++ API: من أكثر حالات استخدام TorchScript شيوعًا واجهة LibTorch البرمجية لـ C++، التي تتيح تحميل نماذج TorchScript المحسّنة وتنفيذها مباشرةً ضمن تطبيقات C++. وهذا مناسب تمامًا لبيئات الإنتاج التي قد لا تكون Python فيها ملائمة أو متاحة. وتوفر C++ API تنفيذًا فعّالًا لنماذج TorchScript مع عبء إضافي منخفض، مما يعزز إمكانات الأداء إلى أقصى حد.

  • النشر على الأجهزة المحمولة: للاستدلال بزمن استجابة منخفض ومن دون اتصال، ولحماية خصوصية البيانات على الأجهزة المحمولة، استخدم ExecuTorch، البديل الذي تقدمه PyTorch لـ TorchScript Mobile.

  • النشر السحابي: يمكن نشر نماذج TorchScript على الخوادم السحابية باستخدام حلول مثل NVIDIA Triton Inference Server. ويوفر ميزات مثل إصدار النماذج وتجميع الطلبات ومراقبة المقاييس، لدعم النشر القابل للتوسع في بيئات الإنتاج. ويمكن للنشر السحابي باستخدام TorchScript إتاحة نماذجك عبر واجهات API أو خدمات ويب أخرى.

المهام المدعومة#

يدعم تصدير TorchScript مهام Ultralytics السبع كلها. ولا يتوفر التقسيم الدلالي وتقدير العمق إلا مع YOLO26، وهي العائلة الوحيدة التي تتضمن هذين الرأسين.

المهمةYOLOv8YOLO11YOLO26
كشف✅✅✅
تجزئة✅✅✅
دلالي❌❌✅
العمق❌❌✅
تصنيف✅✅✅
الوضعية✅✅✅
OBB✅✅✅

التصدير إلى TorchScript: تحويل نموذج YOLO26#

يسهّل تصدير نماذج YOLO26 إلى TorchScript تشغيلها خارج Python، مثل استخدامها في تطبيقات C++ المبنية على LibTorch.

التثبيت#

لتثبيت الحزمة المطلوبة، شغّل:

التثبيت
# Install the required package for YOLO26
pip install ultralytics

للاطلاع على التعليمات التفصيلية وأفضل الممارسات المتعلقة بعملية التثبيت، راجع دليل تثبيت Ultralytics. إذا واجهت أي صعوبات أثناء تثبيت الحزم المطلوبة لـ YOLO26، فراجع دليل المشكلات الشائعة للاطلاع على الحلول والنصائح.

الاستخدام#

صُممت جميع نماذج Ultralytics YOLO26 لدعم التصدير مباشرةً، مما يسهل دمجها في سير عمل النشر الذي تفضله. يمكنك عرض القائمة الكاملة لتنسيقات التصدير المدعومة وخيارات الإعداد لاختيار الإعداد الأنسب لتطبيقك.

يدعم تنسيق TorchScript أوضاع التصدير والتنبؤ والتحقق. صدّر النموذج، ثم حمّل النموذج المُصدّر لإجراء الاستدلال أو التحقق من دقته.

التصدير
from ultralytics import YOLO

# ⁨تحميل نموذج YOLO26⁩
model = YOLO("yolo26n.pt")

# ⁨صدّر النموذج إلى تنسيق TorchScript⁩
model.export(format="torchscript")  # ⁨ينشئ 'yolo26n.torchscript'⁩
التنبؤ
from ultralytics import YOLO

# ⁨حمّل نموذج TorchScript المُصدّر⁩
model = YOLO("yolo26n.torchscript")

# ⁨تنفيذ الاستدلال⁩
results = model("https://ultralytics.com/images/bus.jpg")
تحقّق
from ultralytics import YOLO

# ⁨حمّل نموذج TorchScript المُصدّر⁩
model = YOLO("yolo26n.torchscript")

# ⁨# التحقق من الدقة على مجموعة بيانات COCO8⁩
metrics = model.val(data="coco8.yaml")

وسيطات التصدير#

المعاملالنوعالافتراضيالوصف
formatstr'torchscript'التنسيق المستهدف للنموذج المُصدَّر، ويحدد مدى توافقه مع بيئات النشر المختلفة.
imgszint أو tuple640حجم الصورة المطلوب كمدخل للنموذج. يمكن تحديده كعدد صحيح للصور المربعة أو كصف (height, width) للأبعاد المحددة.
dynamicboolFalseيتيح أحجام إدخال ديناميكية، ما يعزز المرونة في التعامل مع أبعاد الصور المتغيرة.
quantizeint أو strNoneدقة التكميم: يتطلب 16 (FP16) التصدير باستخدام GPU مع device=0؛ أما 32/غير المحدد فيعني FP32. ويحل محل العلامة المهملة half.
nmsbool، اختياريNoneاختر المخرجات الأولية (None، الافتراضي)، أو NMS المضمّن (True)، أو الرأس الخالي من NMS (False).
batchint1يحدد حجم الدفعة للاستدلال بنموذج التصدير، أو الحد الأقصى لعدد الصور التي سيعالجها النموذج المُصدّر بالتزامن في وضع predict.
devicestrNoneيحدد الجهاز المستخدم للتصدير: GPU (device=0)، أو CPU (device=cpu)، أو MPS لأجهزة Apple silicon (device=mps).

لمزيد من التفاصيل حول عملية التصدير، تفضّل بزيارة صفحة وثائق Ultralytics حول التصدير.

نشر نماذج YOLO26 المُصدّرة بتنسيق TorchScript#

بعد تصدير نماذج Ultralytics YOLO26 إلى تنسيق TorchScript بنجاح، يمكنك الآن نشرها. والخطوة الأولى الأساسية والموصى بها لتشغيل نموذج TorchScript هي استخدام الطريقة YOLO("model.torchscript")، كما هو موضح في مقتطف الشيفرة السابق للاستخدام. وللحصول على تعليمات مفصلة حول نشر نماذج TorchScript في إعدادات أخرى، راجع الموارد التالية:

الملخص#

تناول هذا الدليل تصدير نماذج Ultralytics YOLO26 إلى تنسيق TorchScript. باتباع التعليمات المقدمة، يمكنك تحسين أداء نماذج YOLO26 والاستفادة من المرونة لنشرها عبر منصات وبيئات متنوعة.

لمزيد من التفاصيل حول الاستخدام، تفضل بزيارة الوثائق الرسمية لـ TorchScript.

الأسئلة الشائعة#

  • يتيح تصدير نموذج Ultralytics YOLO26 إلى TorchScript نشره بمرونة عبر منصات مختلفة. ويسهّل TorchScript، وهو جزء من منظومة PyTorch، تسلسل النماذج التي يمكن تنفيذها بعد ذلك في بيئات لا تدعم Python. وهذا ما يجعله مفيدًا لنشر النماذج في بيئات C++.

  • لتصدير نموذج YOLO26 إلى TorchScript، يمكنك استخدام مثال الشيفرة التالي:

    الاستخدام
    from ultralytics import YOLO
    
    # ⁨تحميل نموذج YOLO26⁩
    model = YOLO("yolo26n.pt")
    
    # ⁨صدّر النموذج إلى تنسيق TorchScript⁩
    model.export(format="torchscript")  # ⁨ينشئ 'yolo26n.torchscript'⁩
    
    # ⁨حمّل نموذج TorchScript المُصدّر⁩
    torchscript_model = YOLO("yolo26n.torchscript")
    
    # ⁨تنفيذ الاستدلال⁩
    results = torchscript_model("https://ultralytics.com/images/bus.jpg")

    لمزيد من التفاصيل حول عملية التصدير، راجع وثائق Ultralytics حول التصدير.

  • يوفر استخدام TorchScript لنشر نماذج YOLO26 عدة مزايا:

    • قابلية النقل: يمكن تشغيل النماذج المُصدّرة في تطبيقات C++ من دون Python.
    • التحسين: يدعم TorchScript تنفيذ الرسم البياني الثابت والترجمة في الوقت المناسب (JIT)، مما قد يحسّن أداء النموذج.
    • التكامل بين لغات البرمجة: يمكن دمج نماذج TorchScript في لغات برمجة أخرى، مما يعزز المرونة وقابلية التوسع.
    • التسلسل: يمكن تسلسل النماذج، مما يتيح تحميلها وإجراء الاستدلال بها بصورة مستقلة عن المنصة.

    للاطلاع على مزيد من المعلومات حول النشر، تفضل بزيارة دليل النشر باستخدام C++. أما بالنسبة إلى النشر على الأجهزة المحمولة، فتوصي PyTorch الآن باستخدام ExecuTorch، الذي يعتمد خط معالجة منفصلًا خاصًا به torch.export() → .pte بدلًا من TorchScript.

  • لتثبيت الحزمة المطلوبة لتصدير نماذج YOLO26، استخدم الأمر التالي:

    التثبيت
    # Install the required package for YOLO26
    pip install ultralytics

    للاطلاع على التعليمات التفصيلية، تفضل بزيارة دليل تثبيت Ultralytics. وإذا واجهت أي مشكلات أثناء التثبيت، فراجع دليل المشكلات الشائعة.

  • بعد تصدير نماذج YOLO26 إلى تنسيق TorchScript، يمكنك نشرها على مجموعة متنوعة من المنصات:

    • واجهة C++ البرمجية: استخدم LibTorch في بيئات الإنتاج التي تتطلب عبئًا إضافيًا منخفضًا وكفاءة عالية.
    • النشر على الأجهزة المحمولة: استخدم ExecuTorch، وهو البديل المدعوم من PyTorch وله مسار تصدير منفصل .pte.
    • النشر السحابي: استخدم خدمات مثل NVIDIA Triton Inference Server للنشر القابل للتوسع من جانب الخادم.

التعليقات9

اطرح سؤالًا، وشارك نتائجك، أو ساعد شخصًا آخر.

  1. amarnathreddy0201GitHub

    Load the YOLOv8 model

    model = YOLO("yolov8n.pt")

    Export the model to TorchScript format

    model.export(format="torchscript") # creates 'yolov8n.torchscript'

    Load the exported TorchScript model

    torchscript_model = YOLO("yolov8n.torchscript")

    For loading "yolov8n.torchscript" here yolo is used. is it possible to load the model using pytorch and prediction/Segmentation.

    1. Paula DerrengerUltralytics

      @amarnathreddy0201 yes, you can load and use the exported TorchScript model directly with PyTorch. After exporting your YOLOv8 model to TorchScript format, you can load it using torch.jit.load('yolov8n.torchscript') and then perform inference as usual with PyTorch. For detailed instructions, you can refer to the TorchScript documentation.

    2. amarnathreddy0201GitHub(تم التعديل)

      @pderrenger I written small application for person detection but it's not detecting properly nd bounding boxes is some where else.

      import torch import cv2 import numpy as np

      classes = [ "person", "bicycle", "car", "motorcycle", "airplane", "bus", "train", "truck", "boat", "traffic light", "fire hydrant", "stop sign", "parking meter", "bench", "bird", "cat", "dog", "horse", "sheep", "cow", "elephant", "bear", "zebra", "giraffe", "backpack", "umbrella", "handbag", "tie", "suitcase", "frisbee", "skis", "snowboard", "sports ball", "kite", "baseball bat", "baseball glove", "skateboard", "surfboard", "tennis racket", "bottle", "wine glass", "cup", "fork", "knife", "spoon", "bowl", "banana", "apple", "sandwich", "orange", "broccoli", "carrot", "hot dog", "pizza", "donut", "cake", "chair", "couch", "potted plant", "bed", "dining table", "toilet", "tv", "laptop", "mouse", "remote", "keyboard", "cell phone", "microwave", "oven", "toaster", "sink", "refrigerator", "book", "clock", "vase", "scissors", "teddy bear", "hair drier", "toothbrush" ]

      model = torch.jit.load("yolov8n.torchscript") image_ori = cv2.imread(r"C:\Users\amarn\OneDrive\Pictures\father mother.jpg") image = cv2.resize(image_ori, (640, 640)) image = cv2.cvtColor(image, cv2.COLOR_BGR2RGB) image_tensor = torch.from_numpy(image).float() image_tensor = image_tensor.permute(2, 0, 1) # Change from HWC to CHW format image_tensor = image_tensor / 255.0 # Normalize to [0, 1] image_tensor = image_tensor.unsqueeze(0)

      with torch.no_grad(): results = model(image_tensor)

      results = results[0] # Remove the batch dimension if there's only one image

      boxes = results[:, :4]
      print(len(boxes)) object_confidences = results[:, 4] # Objectness score class_confidences = results[:, 5:] # Class scores

      conf_threshold = 0.5 # Example threshold; adjust as necessary predictions = [] for i in range(len(object_confidences)): if object_confidences[i] > conf_threshold: class_id = torch.argmax(class_confidences[i]).item() class_conf = class_confidences[i][class_id].item()

          if class_conf > conf_threshold:
              
              box_np = boxes[i].cpu().numpy() if boxes[i].is_cuda else boxes[i].numpy()
              x, y, w, h = box_np
              x1 = int((x - w / 2) )
              y1 = int((y - h / 2) )
              x2 = int((x + w / 2) )
              y2 = int((y + h / 2))
              cv2.rectangle(image_ori, (int(x1),int( y1)), (int(x1+ w), int(y1 + h)), (0, 255, 0), 2)

      cv2.imshow('image', image_ori) cv2.waitKey(0)

      classes is from yolo only

      1
    3. Paula DerrengerUltralytics

      It looks like there might be an issue with the bounding box coordinates. Ensure that the coordinates are correctly transformed from the model's output format to the image's coordinate system. Also, verify that the model is correctly loaded and that the input image is preprocessed as expected. If the issue persists, please try updating to the latest version of the Ultralytics package and check if the problem is reproducible. For more details on exporting and using TorchScript models, you can refer to the Ultralytics documentation.

    4. clausMekoGitHub(تم التعديل)

      @amarnathreddy0201 I could make the boxes work for my One-Item only use case. I guess the tensor structure was not really clear to you as it seemed to me you have profound knowledge. ty for heavy lifting :partying_face:

      @glenn-jocher and @pderrenger if you care what use case I had and could not simply from ultralytics import YOLO: I chain YOLO with other models and have conflicts with imports, especially numpy v1 vs v2. So i figured export all as torchscript and chain them.

      import torch
      import cv2
      
      # Knwoledge: https://github.com/ultralytics/ultralytics/issues/5863
      # Knwoledge: https://github.com/orgs/ultralytics/discussions/9002
      def preprocess_image(image_ori) -> torch.Tensor:
          image = cv2.resize(image_ori, (640, 640))
          image = cv2.cvtColor(image, cv2.COLOR_BGR2RGB)
          image_tensor = torch.from_numpy(image).float()
          image_tensor = image_tensor.permute(2, 0, 1)  # Change from HWC to CHW format
          image_tensor = image_tensor / 255.0  # Normalize to [0, 1]
          image_tensor = image_tensor.unsqueeze(0)
      
          return image_tensor
      
      def main():
          # Load the TorchScript model
          map_location = torch.device('cuda') if torch.cuda.is_available() else torch.device('cpu')
          model = torch.jit.load('./best.torchscript', map_location=map_location)
      
          cv2_img = cv2.imread("../obj-det/datasets/test/images/00018_png.rf.d602082fdf686063a7d430aba6dfedde.jpg")
          image = preprocess_image(cv2_img)
      
          with torch.no_grad():
              results: torch.Tensor = model(image.to(map_location))
      
          results = results[0]  # Remove the batch dimension if there's only one image
          boxes = results[:4, :]
          object_confidences = results[4, :]
          conf_threshold = 0.5  # Example threshold; adjust as necessary
      
          dominant_item = torch.argmax(object_confidences)
          if object_confidences[dominant_item] < conf_threshold:
              cv2.imshow('nothing found', cv2_img)
              cv2.waitKey(0)
              return
      
          box_np = boxes[:,dominant_item].cpu().numpy() if boxes[:,dominant_item].is_cuda else boxes[:,dominant_item].numpy()
          x, y, w, h = box_np
          x1 = int((x - w / 2))
          y1 = int((y - h / 2))
          x2 = int(x1 + w)
          y2 = int(y1 + h)
          cv2.rectangle(cv2_img, (x1, y1), (x2, y2), (0, 255, 0), 2)
          cv2.imshow('image', cv2_img)
          cv2.waitKey(0)
      
      if __name__ == '__main__':
          main()
      1
    5. Glenn JocherUltralytics

      Thank you for sharing your use case and detailed implementation! Exporting models as TorchScript for chaining is indeed a smart approach, especially when managing dependency conflicts. If adjustments are needed for bounding boxes or results, ensure the coordinate transformations align with the input image dimensions. For additional guidance on TorchScript usage, feel free to reference Ultralytics TorchScript Docs. Let us know if you encounter further issues!

  2. tryprncpGitHub

    hi, I'm implementing yolov8 model in android gallery's search mechanism. the purpose of yolov8 model is to scan media files and return images that has a bounding box label that matches the search query. i can make it work with yolov5s.torchscript.ptl using org.pytorch:pytorch_android_lite:1.10.0 and org.pytorch:pytorch_android_torchvision_lite:1.10.0 but it wont work with yolov8s.torchscript. i really need help with this.

    1. Glenn JocherUltralytics

      Hey there! 😊 It sounds like you've made great progress integrating YOLOv8 into your Android app's search mechanism! If you've successfully used YOLOv5 models but are facing issues with YOLOv8's TorchScript model, let's try to sort this out.

      First, ensure you've exported the YOLOv8 model to TorchScript correctly using the latest YOLOv8 and PyTorch versions. Here's a quick snippet for exporting:

      from ultralytics import YOLO
      
      # Load YOLOv8 model
      model = YOLO('yolov8s.pt')  # Use the appropriate YOLOv8 variant
      
      # Export to TorchScript
      model.export(format='torchscript')

      This creates a file named yolov8s.torchscript. Ensure that this file is what you're trying to load in your Android app.

      If you're still having trouble after confirming the export process, consider checking the PyTorch Android version compatibility. YOLOv8 may require a newer version of PyTorch Android than YOLOv5, so updating org.pytorch:pytorch_android_lite and org.pytorch:pytorch_android_torchvision_lite to the latest versions might help.

      Lastly, since YOLOv8 is more recent, make sure you're using the latest release of the Ultralytics YOLO library for any compatibility fixes or improvements.

      If these steps don't resolve the issue, feel free to share any error messages or more specifics about the problem you're encountering. I'm here to help!