Ultralytics iOS App: Echtzeit-Objekterkennung mit YOLO-Modellen
Die Ultralytics iOS App ist ein leistungsstarkes Tool, mit dem Sie YOLO-Modelle direkt auf Ihrem iPhone oder iPad für die Echtzeit-Objekterkennung ausführen können. Diese App nutzt die Apple Neural Engine und Core ML zur Modelloptimierung und -beschleunigung, was eine schnelle und effiziente Objekterkennung ermöglicht.
Ansehen: Erste Schritte mit der Ultralytics HUB App (IOS & Android)
Quantisierung und Beschleunigung
Um eine Echtzeitleistung auf Ihrem iOS-Gerät zu erzielen, werden YOLO-Modelle entweder auf FP16- oder INT8-Genauigkeit quantisiert. Quantisierung ist ein Prozess, der die numerische Präzision der Gewichte und Verzerrungen des Modells reduziert, wodurch die Größe des Modells und der erforderliche Rechenaufwand verringert werden. Dies führt zu schnelleren Inferenzzeiten, ohne die Genauigkeit des Modells wesentlich zu beeinträchtigen.
FP16-Quantisierung
Die FP16- (oder Halbpräzisions-) Quantisierung konvertiert die 32-Bit-Gleitkommazahlen des Modells in 16-Bit-Gleitkommazahlen. Dies reduziert die Größe des Modells um die Hälfte und beschleunigt den Inferenzprozess, während ein gutes Gleichgewicht zwischen Genauigkeit und Leistung erhalten bleibt.
INT8-Quantisierung
Die INT8-Quantisierung (oder 8-Bit-Integer-Quantisierung) reduziert die Größe des Modells und die Rechenanforderungen weiter, indem die 32-Bit-Gleitkommazahlen in 8-Bit-Integerzahlen umgewandelt werden. Diese Quantisierungsmethode kann zu einer deutlichen Beschleunigung führen, aber sie kann zu einer leichten Verringerung der Genauigkeit führen.
Apple Neural Engine
Die Apple Neural Engine (ANE) ist eine dedizierte Hardwarekomponente, die in Apples A- und M-Serien-Chips integriert ist. Sie wurde entwickelt, um Machine-Learning-Aufgaben zu beschleunigen, insbesondere für neuronale Netze, und ermöglicht so eine schnellere und effizientere Ausführung Ihrer YOLO-Modelle.
Durch die Kombination von quantisierten YOLO-Modellen mit der Apple Neural Engine erreicht die Ultralytics iOS App eine Echtzeit-Objekterkennung auf Ihrem iOS-Gerät, ohne Kompromisse bei Genauigkeit oder Leistung einzugehen.
| Erscheinungsjahr | iPhone-Name | Chipsatzname | Knotengröße | ANE TOPs |
|---|---|---|---|---|
| 2017 | iPhone X | A11 Bionic | 10 nm | 0.6 |
| 2018 | iPhone XS | A12 Bionic | 7 nm | 5 |
| 2019 | iPhone 11 | A13 Bionic | 7 nm | 6 |
| 2020 | iPhone 12 | A14 Bionic | 5 nm | 11 |
| 2021 | iPhone 13 | A15 Bionic | 5 nm | 15.8 |
| 2022 | iPhone 14 | A16 Bionic | 4 nm | 17.0 |
| 2023 | iPhone 15 | A17 Pro | 3 nm | 35.0 |
Bitte beachten Sie, dass diese Liste iPhone-Modelle ab 2017 enthält und die ANE TOPs-Werte Schätzungen sind.
CoreML-Integration
Die Ultralytics iOS App nutzt CoreML, Apples grundlegendes Machine-Learning-Framework, um YOLO-Modelle für iOS-Geräte zu optimieren. CoreML bietet mehrere Vorteile:
- On-device processing: Die gesamte Inferenz findet lokal auf Ihrem Gerät statt, wodurch die Privatsphäre der Daten gewährleistet und die Notwendigkeit einer Internetverbindung vermieden wird.
- Hardwarebeschleunigung: Nutzt automatisch die Apple Neural Engine, CPU und GPU für optimale Leistung.
- Nahtlose Integration: Funktioniert nativ mit der iOS-Kamera und den System-Frameworks
CoreML konvertiert YOLO-Modelle in ein Format, das für Apple-Geräte optimiert ist und eine effiziente Ausführung bei gleichzeitiger Aufrechterhaltung der Erkennungsgenauigkeit ermöglicht.
Erste Schritte mit der Ultralytics iOS App
Um mit der Ultralytics iOS App zu beginnen, folgen Sie diesen Schritten:
Laden Sie die Ultralytics App aus dem App Store herunter.
Starte die App auf deinem iOS-Gerät und melde dich mit deinem Ultralytics-Konto an. Wenn du noch kein Konto hast, erstelle eines unter Ultralytics HUB.
Nach der Anmeldung sehen Sie eine Liste Ihrer trainierten YOLO-Modelle. Wählen Sie ein Modell aus, das Sie für die Objekterkennung verwenden möchten.
Erteilen Sie der App die Berechtigung, auf die Kamera Ihres Geräts zuzugreifen.
Richten Sie die Kamera Ihres Geräts auf Objekte, die Sie erkennen möchten. Die App zeigt Begrenzungsrahmen und Klassenbezeichnungen in Echtzeit an, während sie Objekte erkennt.
Entdecken Sie die App-Einstellungen, um den Erkennungsschwellenwert anzupassen, bestimmte Objektklassen zu aktivieren oder zu deaktivieren und vieles mehr.
Mit der Ultralytics iOS App können Sie jetzt die Leistungsfähigkeit von YOLO-Modellen für die Echtzeit-Objekterkennung auf Ihrem iPhone oder iPad nutzen, unterstützt von der Apple Neural Engine und optimiert mit FP16- oder INT8-Quantisierung.
