Zum Inhalt springen

So exportieren Sie von YOLO11 nach NCNN fĂŒr eine reibungslose Bereitstellung

Der Einsatz von Computer-Vision-Modellen auf GerĂ€ten mit begrenzter Rechenleistung, wie z. B. mobilen oder eingebetteten Systemen, kann sich als schwierig erweisen. Sie mĂŒssen sicherstellen, dass Sie ein fĂŒr optimale Leistung optimiertes Format verwenden. Dadurch wird sichergestellt, dass auch GerĂ€te mit begrenzter Rechenleistung fortgeschrittene Bildverarbeitungsaufgaben gut bewĂ€ltigen können.

Mit der Funktion zum Export in das Format NCNN können Sie Ihre Modelle Ultralytics YOLO11 Modelle fĂŒr leichtgewichtige gerĂ€tebasierte Anwendungen zu optimieren. In dieser Anleitung zeigen wir Ihnen, wie Sie Ihre Modelle in das Format NCNN konvertieren, damit sie auf verschiedenen mobilen und eingebetteten GerĂ€ten gut funktionieren.

Warum sollten Sie auf NCNN exportieren?

NCNN Übersicht

Das NCNN Framework, das von Tencent entwickelt wurde, ist ein hochleistungsfĂ€higes Framework fĂŒr die Inferenzberechnung mit neuronalen Netzen, das speziell fĂŒr mobile Plattformen wie Mobiltelefone, eingebettete GerĂ€te und IoT-GerĂ€te optimiert wurde. NCNN ist mit einer Vielzahl von Plattformen kompatibel, darunter Linux, Android, iOS und macOS.

NCNN ist fĂŒr seine hohe Verarbeitungsgeschwindigkeit auf mobilen CPUs bekannt und ermöglicht eine schnelle Bereitstellung von Deep-Learning-Modellen auf mobilen Plattformen. Dies erleichtert die Entwicklung intelligenter Apps und macht die Leistung der KI fĂŒr Sie greifbar.

Hauptmerkmale der Modelle NCNN

NCNN Modelle bieten eine breite Palette von SchlĂŒsselfunktionen, die maschinelles Lernen auf GerĂ€ten ermöglichen, indem sie Entwicklern helfen, ihre Modelle auf mobilen, eingebetteten und Edge-GerĂ€ten auszufĂŒhren:

  • Effizient und leistungsstark: Die Modelle von NCNN sind effizient und leichtgewichtig und fĂŒr die AusfĂŒhrung auf mobilen und eingebetteten GerĂ€ten wie Raspberry Pi mit begrenzten Ressourcen optimiert. Sie können auch eine hohe Leistung mit hoher Genauigkeit bei verschiedenen Computer-Vision-basierten Aufgaben erreichen.

  • Quantisierung: Die Modelle von NCNN unterstĂŒtzen hĂ€ufig die Quantisierung, eine Technik, die die Genauigkeit der Gewichte und Aktivierungen des Modells reduziert. Dies fĂŒhrt zu einer weiteren Verbesserung der Leistung und reduziert den Speicherbedarf.

  • KompatibilitĂ€t: NCNN Modelle sind kompatibel mit gĂ€ngigen Deep-Learning-Frameworks wie TensorFlowCaffe, und ONNX. Diese KompatibilitĂ€t ermöglicht es Entwicklern, bestehende Modelle und ArbeitsablĂ€ufe problemlos zu nutzen.

  • Einfache Nutzung: NCNN Modelle sind dank ihrer KompatibilitĂ€t mit gĂ€ngigen Deep-Learning-Frameworks fĂŒr die einfache Integration in verschiedene Anwendungen konzipiert. DarĂŒber hinaus bietet NCNN benutzerfreundliche Tools fĂŒr die Konvertierung von Modellen zwischen verschiedenen Formaten, um eine reibungslose InteroperabilitĂ€t in der gesamten Entwicklungslandschaft zu gewĂ€hrleisten.

Bereitstellungsoptionen mit NCNN

Bevor wir uns den Code fĂŒr den Export von YOLO11 Modellen in das NCNN Format ansehen, sollten wir verstehen, wie NCNN Modelle normalerweise verwendet werden.

NCNN Modelle, die auf Effizienz und Leistung ausgelegt sind, sind mit einer Vielzahl von Einsatzplattformen kompatibel:

  • Mobile Einsatzmöglichkeiten: Speziell optimiert fĂŒr Android und iOS, ermöglicht die nahtlose Integration in mobile Anwendungen fĂŒr effiziente Inferenzen auf dem GerĂ€t.

  • Eingebettete Systeme und IoT-GerĂ€te: Wenn Sie feststellen, dass die Inferenz auf einem Raspberry Pi mit dem Ultralytics Guide nicht schnell genug ist, kann der Wechsel zu einem exportierten Modell von NCNN helfen, die Dinge zu beschleunigen. NCNN ist großartig fĂŒr GerĂ€te wie Raspberry Pi und NVIDIA Jetson, insbesondere in Situationen, in denen Sie eine schnelle Verarbeitung direkt auf dem GerĂ€t benötigen.

  • Desktop- und Server-Bereitstellung: Kann in Desktop- und Serverumgebungen unter Linux, Windows und macOS eingesetzt werden und unterstĂŒtzt Entwicklung, Schulung und Evaluierung mit höheren RechenkapazitĂ€ten.

Exportieren nach NCNN: Konvertierung Ihres YOLO11 Modells

Sie können die ModellkompatibilitÀt und die EinsatzflexibilitÀt erweitern, indem Sie die Modelle von YOLO11 in das Format NCNN konvertieren.

Einrichtung

Um die erforderlichen Pakete zu installieren, fĂŒhren Sie aus:

Einrichtung

# Install the required package for YOLO11
pip install ultralytics

Detaillierte Anweisungen und bewĂ€hrte Verfahren fĂŒr den Installationsprozess finden Sie in unserem Ultralytics Installationshandbuch. Wenn Sie bei der Installation der erforderlichen Pakete fĂŒr YOLO11 auf Schwierigkeiten stoßen, finden Sie in unserem Leitfaden fĂŒr hĂ€ufige Probleme Lösungen und Tipps.

Verwendung

Bevor wir uns den Anweisungen zur Verwendung zuwenden, ist es wichtig zu wissen, dass alle Modelle vonUltralytics YOLO11 fĂŒr den Export verfĂŒgbar sind.

Verwendung

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to NCNN format
model.export(format="ncnn")  # creates '/yolo11n_ncnn_model'

# Load the exported NCNN model
ncnn_model = YOLO("./yolo11n_ncnn_model")

# Run inference
results = ncnn_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to NCNN format
yolo export model=yolo11n.pt format=ncnn  # creates '/yolo11n_ncnn_model'

# Run inference with the exported model
yolo predict model='./yolo11n_ncnn_model' source='https://ultralytics.com/images/bus.jpg'

Weitere Einzelheiten zu den unterstĂŒtzten Exportoptionen finden Sie auf der Dokumentationsseite zu den Bereitstellungsoptionen unter Ultralytics .

Bereitstellung von exportierten YOLO11 NCNN Modellen

Nachdem Sie Ihre Ultralytics YOLO11 Modelle erfolgreich in das NCNN Format exportiert haben, können Sie sie nun einsetzen. Der primĂ€re und empfohlene erste Schritt zur AusfĂŒhrung eines NCNN Modells ist die Verwendung der YOLO("./model_ncnn_model") Methode, wie im vorherigen Codeausschnitt beschrieben. AusfĂŒhrliche Anleitungen fĂŒr die Bereitstellung Ihrer NCNN Modelle in verschiedenen anderen Einstellungen finden Sie in den folgenden Ressourcen:

  • Android: In diesem Blog wird erklĂ€rt, wie man NCNN Modelle fĂŒr Aufgaben wie die Objekterkennung in Android Anwendungen verwendet.

  • macOS: Verstehen, wie man NCNN Modelle fĂŒr die DurchfĂŒhrung von Aufgaben durch macOS verwendet.

  • Linux: Auf dieser Seite erfahren Sie, wie Sie NCNN Modelle auf GerĂ€ten mit begrenzten Ressourcen wie Raspberry Pi und anderen Ă€hnlichen GerĂ€ten einsetzen können.

  • Windows x64 mit VS2017: In diesem Blog erfahren Sie, wie Sie NCNN Modelle auf Windows x64 mit Visual Studio Community 2017 bereitstellen können.

Zusammenfassung

In diesem Leitfaden wird das Exportieren von Ultralytics YOLO11 Modellen in das NCNN Format beschrieben. Dieser Konvertierungsschritt ist entscheidend fĂŒr die Verbesserung der Effizienz und Geschwindigkeit von YOLO11 Modellen, wodurch sie effektiver und fĂŒr Computerumgebungen mit begrenzten Ressourcen geeignet sind.

AusfĂŒhrliche Anweisungen zur Verwendung finden Sie in der offiziellen Dokumentation NCNN .

Wenn Sie an weiteren Integrationsmöglichkeiten fĂŒr Ultralytics YOLO11 interessiert sind, besuchen Sie unsere Seite mit den Integrationsanleitungen fĂŒr weitere Einblicke und Informationen.

FAQ

Wie exportiere ich Ultralytics YOLO11 Modelle in das Format NCNN ?

Gehen Sie folgendermaßen vor, um Ihr Modell Ultralytics YOLO11 in das Format NCNN zu exportieren:

  • Python: Verwenden Sie die export Funktion aus der Klasse YOLO .

    from ultralytics import YOLO
    
    # Load the YOLO11 model
    model = YOLO("yolo11n.pt")
    
    # Export to NCNN format
    model.export(format="ncnn")  # creates '/yolo11n_ncnn_model'
    
  • CLI: Verwenden Sie die yolo mit dem Befehl export Argument.

    yolo export model=yolo11n.pt format=ncnn  # creates '/yolo11n_ncnn_model'
    

AusfĂŒhrliche Informationen zu den Exportoptionen finden Sie auf der Seite Export in der Dokumentation.

Was sind die Vorteile des Exports von YOLO11 Modellen auf NCNN?

Der Export Ihrer Ultralytics YOLO11 Modelle nach NCNN bietet mehrere Vorteile:

  • Effizienz: Die Modelle von NCNN sind fĂŒr mobile und eingebettete GerĂ€te optimiert und gewĂ€hrleisten auch bei begrenzten Rechenressourcen eine hohe Leistung.
  • Quantisierung: NCNN unterstĂŒtzt Techniken wie die Quantisierung, die die Geschwindigkeit des Modells erhöhen und den Speicherverbrauch reduzieren.
  • Breite KompatibilitĂ€t: Sie können NCNN Modelle auf mehreren Plattformen einsetzen, darunter Android, iOS, Linux und macOS.

Weitere Einzelheiten finden Sie im Abschnitt Export nach NCNN in der Dokumentation.

Warum sollte ich NCNN fĂŒr meine mobilen KI-Anwendungen verwenden?

NCNNwurde von Tencent entwickelt und ist speziell fĂŒr mobile Plattformen optimiert. Die wichtigsten GrĂŒnde fĂŒr die Nutzung von NCNN sind:

  • Hohe Leistung: Entwickelt fĂŒr effiziente und schnelle Verarbeitung auf mobilen CPUs.
  • PlattformĂŒbergreifend: Kompatibel mit gĂ€ngigen Frameworks wie TensorFlow und ONNX, was die Konvertierung und Bereitstellung von Modellen auf verschiedenen Plattformen erleichtert.
  • UnterstĂŒtzung der Gemeinschaft: Die aktive UnterstĂŒtzung durch die Community gewĂ€hrleistet kontinuierliche Verbesserungen und Aktualisierungen.

Weitere Informationen finden Sie in der ÜbersichtNCNN in der Dokumentation.

Welche Plattformen werden fĂŒr dieBereitstellung des Modells NCNN unterstĂŒtzt?

NCNN ist vielseitig und unterstĂŒtzt verschiedene Plattformen:

  • Mobil: Android, iOS.
  • Eingebettete Systeme und IoT-GerĂ€te: GerĂ€te wie Raspberry Pi und NVIDIA Jetson.
  • Desktop und Server: Linux, Windows und macOS.

Wenn die AusfĂŒhrung von Modellen auf einem Raspberry Pi nicht schnell genug ist, kann die Konvertierung in das Format NCNN die Dinge beschleunigen, wie in unserem Raspberry Pi Guide beschrieben.

Wie kann ich Ultralytics YOLO11 NCNN Modelle auf Android einsetzen?

So stellen Sie Ihre YOLO11 Modelle auf Android bereit:

  1. Bauen Sie fĂŒr Android: Folgen Sie der Anleitung NCNN Build for Android.
  2. Integrieren Sie in Ihre Anwendung: Verwenden Sie das NCNN Android SDK, um das exportierte Modell in Ihre Anwendung zu integrieren und so eine effiziente Inferenz auf dem GerÀt zu ermöglichen.

Eine schrittweise Anleitung finden Sie in unserem Leitfaden zur Bereitstellung von YOLO11 NCNN Modellen.

Weitere Anleitungen und AnwendungsfĂ€lle fĂŒr Fortgeschrittene finden Sie auf der DokumentationsseiteUltralytics .

📅 Erstellt vor 9 Monaten ✏ Aktualisiert vor 2 Monaten

Kommentare