Ultralytics iOS : Objektdetektion in Echtzeit mit YOLO
Die Ultralytics iOS App ist ein leistungsstarkes Tool, mit dem Sie YOLO Modelle direkt auf Ihrem iPhone oder iPad zur Objekterkennung in Echtzeit ausführen können. Diese App nutzt die Apple Neural Engine und Core ML zur Modelloptimierung und -beschleunigung und ermöglicht eine schnelle und effiziente Objekterkennung.
Beobachten: Erste Schritte mit der Ultralytics HUB App (IOS & Android)
Quantisierung und Beschleunigung
Um Echtzeitleistung auf Ihrem iOS Gerät zu erreichen, werden YOLO Modelle entweder auf FP16 oder INT8 Genauigkeit quantisiert. Die Quantisierung ist ein Prozess, der die numerische Genauigkeit des Modells weights and biases reduziert, wodurch die Größe des Modells und der erforderliche Rechenaufwand verringert werden. Dies führt zu einer schnelleren Inferenzzeit, ohne die Genauigkeit des Modells wesentlich zu beeinträchtigen.
FP16 Quantisierung
Die FP16-Quantisierung (oder Halbpräzisionsquantisierung) wandelt die 32-Bit-Gleitkommazahlen des Modells in 16-Bit-Gleitkommazahlen um. Dadurch wird die Größe des Modells um die Hälfte reduziert und der Ableitungsprozess beschleunigt, während gleichzeitig ein gutes Gleichgewicht zwischen Genauigkeit und Leistung gewahrt bleibt.
INT8 Quantisierung
Die INT8-Quantisierung (oder 8-Bit-Integer-Quantisierung) reduziert die Größe des Modells und die Berechnungsanforderungen weiter, indem die 32-Bit-Gleitkommazahlen in 8-Bit-Ganzzahlen umgewandelt werden. Diese Quantisierungsmethode kann zu einer erheblichen Beschleunigung führen, aber auch zu einer leichten Verringerung der Genauigkeit.
Apple Neural Engine
Die Apple Neural Engine (ANE) ist eine spezielle Hardwarekomponente, die in die Chips der A- und M-Serie von Apple integriert ist. Sie wurde entwickelt, um Aufgaben des maschinellen Lernens zu beschleunigen, insbesondere für neuronale Netzwerke, und ermöglicht eine schnellere und effizientere Ausführung Ihrer YOLO Modelle.
Durch die Kombination von quantisierten YOLO Modellen mit der Apple Neural Engine erreicht die Ultralytics iOS App eine Objekterkennung in Echtzeit auf Ihrem iOS Gerät, ohne Kompromisse bei der Genauigkeit oder Leistung einzugehen.
| Jahr der Veröffentlichung | iPhone Name | Name des Chipsets | Größe des Knotens | ANE TOPs |
|---|---|---|---|---|
| 2017 | iPhone X | A11 Bionic | 10 nm | 0.6 |
| 2018 | iPhone XS | A12 Bionisch | 7 nm | 5 |
| 2019 | iPhone 11 | A13 Bionisch | 7 nm | 6 |
| 2020 | iPhone 12 | A14 Bionisch | 5 nm | 11 |
| 2021 | iPhone 13 | A15 Bionisch | 5 nm | 15.8 |
| 2022 | iPhone 14 | A16 Bionisch | 4 nm | 17.0 |
| 2023 | iPhone 15 | A17 Pro | 3 nm | 35.0 |
Bitte beachten Sie, dass diese Liste iPhone-Modelle ab 2017 enthält und die ANE TOPs-Werte Näherungswerte sind.
CoreML
Die Ultralytics iOS nutzt CoreML, dem grundlegenden Framework für maschinelles Lernen von Apple, um YOLO für iOS zu optimieren. CoreML bietet mehrere Vorteile:
- Verarbeitung auf dem Gerät: Alle Ableitungen erfolgen lokal auf Ihrem Gerät, wodurch der Datenschutz gewährleistet wird und keine Internetverbindung erforderlich ist.
- Hardware-Beschleunigung: Nutzt automatisch die Apple Neural Engine, CPU und GPU für optimale Leistung
- Nahtlose Integration: Arbeitet nativ mit iOS und System-Frameworks
CoreML konvertiert YOLO in ein für Apple-Geräte optimiertes Format, das eine effiziente Ausführung unter Beibehaltung der Erkennungsgenauigkeit ermöglicht.
Erste Schritte mit der App Ultralytics iOS
Führen Sie die folgenden Schritte aus, um mit der App Ultralytics iOS zu beginnen:
-
Laden Sie die App Ultralytics aus dem App Store herunter.
-
Starten Sie die App auf Ihrem iOS und melden Sie sich mit Ihrem Ultralytics an. Wenn Sie noch kein Konto haben, erstellen Sie eines im Ultralytics HUB.
-
Sobald Sie sich angemeldet haben, sehen Sie eine Liste Ihrer trainierten YOLO Modelle. Wählen Sie ein Modell aus, das Sie für die Objekterkennung verwenden möchten.
-
Erlauben Sie der App den Zugriff auf die Kamera Ihres Geräts.
-
Richten Sie die Kamera Ihres Geräts auf Objekte, die Sie erkennen möchten. Die App zeigt Begrenzungsrahmen und Klassenbeschriftungen in Echtzeit an, während sie Objekte erkennt.
-
In den Einstellungen der App können Sie die Erkennungsschwelle anpassen, bestimmte Objektklassen aktivieren oder deaktivieren und vieles mehr.
Mit der App Ultralytics iOS können Sie jetzt die Leistung von YOLO Modellen für die Objekterkennung in Echtzeit auf Ihrem iPhone oder iPad nutzen, die von der Apple Neural Engine unterstützt und mit FP16 oder INT8 Quantisierung optimiert werden.
