Ultralytics Android App: Objekterkennung in Echtzeit mit YOLO Modellen

 

Die Ultralytics Android App ist ein leistungsstarkes Tool, mit dem du YOLO Modelle direkt auf deinem Android-Gerät ausführen kannst, um Objekte in Echtzeit zu erkennen. Diese App nutzt TensorFlow Lite zur Modelloptimierung und verschiedene Hardware-Delegierte zur Beschleunigung, um eine schnelle und effiziente Objekterkennung zu ermöglichen.

Pass auf: Erste Schritte mit der Ultralytics HUB App (IOS & Android)

Quantisierung und Beschleunigung

Um eine Echtzeitleistung auf deinem Android-Gerät zu erreichen, werden die YOLO Modelle entweder auf FP16- oder INT8-Genauigkeit quantisiert. Bei der Quantisierung wird die numerische Genauigkeit des Modells weights and biases reduziert, wodurch die Größe des Modells und der erforderliche Rechenaufwand verringert werden. Dies führt zu schnelleren Schlussfolgerungen, ohne die Genauigkeit des Modells wesentlich zu beeinträchtigen.

FP16 Quantisierung

Die FP16-Quantisierung (oder Halbpräzisionsquantisierung) wandelt die 32-Bit-Gleitkommazahlen des Modells in 16-Bit-Gleitkommazahlen um. Dadurch wird die Größe des Modells um die Hälfte reduziert und der Schlussfolgerungsprozess beschleunigt, während gleichzeitig ein gutes Gleichgewicht zwischen Genauigkeit und Leistung erhalten bleibt.

INT8 Quantisierung

Die INT8-Quantisierung (oder 8-Bit-Integer-Quantisierung) reduziert die Größe des Modells und die Berechnungsanforderungen weiter, indem die 32-Bit-Gleitkommazahlen in 8-Bit-Ganzzahlen umgewandelt werden. Diese Quantisierungsmethode kann zu einer erheblichen Beschleunigung führen, aber aufgrund der geringeren numerischen Genauigkeit kann es zu einer leichten Verringerung der durchschnittlichen Genauigkeit (mAP) kommen.

Delegierte und Leistungsvariabilität

Auf Android-Geräten sind verschiedene Delegierte verfügbar, um die Modellinferenz zu beschleunigen. Zu diesen Delegaten gehören CPU, GPU, Hexagon und NNAPI. Die Leistung dieser Delegaten variiert je nach Hardwarehersteller, Produktlinie und den spezifischen Chipsätzen des Geräts.

1. CPU: Die Standardoption, die auf den meisten Geräten eine angemessene Leistung bietet.
2. GPU: Nutzt den Grafikprozessor des Geräts für schnellere Inferenzen. Auf Geräten mit leistungsstarken GPUs kann dies zu einem erheblichen Leistungsschub führen.
3. Hexagon: Nutzt den Hexagon DSP von Qualcomm für eine schnellere und effizientere Verarbeitung. Diese Option ist für Geräte mit Qualcomm Snapdragon-Prozessoren verfügbar.
4. NNAPI: Die Android Neural Networks API (NNAPI) dient als Abstraktionsschicht für die Ausführung von ML-Modellen auf Android-Geräten. NNAPI kann verschiedene Hardware-Beschleuniger nutzen, wie CPU, GPU und spezielle KI-Chips (z. B. Googles Edge TPU oder den Pixel Neural Core).

Hier ist eine Tabelle mit den wichtigsten Anbietern, ihren Produktlinien, beliebten Geräten und unterstützten Delegierten:

Bitte beachte, dass die Liste der genannten Geräte nicht vollständig ist und je nach Chipsatz und Gerätemodell variieren kann. Teste deine Modelle immer auf deinen Zielgeräten, um Kompatibilität und optimale Leistung sicherzustellen.

Denke daran, dass die Wahl des Delegierten die Leistung und die Kompatibilität der Modelle beeinflussen kann. Manche Modelle funktionieren zum Beispiel nicht mit bestimmten Delegaten oder ein Delegat ist auf einem bestimmten Gerät nicht verfügbar. Deshalb ist es wichtig, dass du dein Modell und den gewählten Delegaten auf deinen Zielgeräten testest, um die besten Ergebnisse zu erzielen.

Erste Schritte mit der Ultralytics Android App

Um mit der Ultralytics Android App zu starten, befolge diese Schritte:

1. Lade die Ultralytics App aus dem Google Play Store herunter.

2. Starte die App auf deinem Android-Gerät und melde dich mit deinem Ultralytics Konto an. Wenn du noch kein Konto hast, kannst du es hier erstellen.

3. Sobald du dich angemeldet hast, siehst du eine Liste deiner trainierten YOLO Modelle. Wähle ein Modell aus, das du für die Objekterkennung verwenden möchtest.

4. Erteile der App die Erlaubnis, auf die Kamera deines Geräts zuzugreifen.

5. Richte die Kamera deines Geräts auf die Objekte, die du erkennen willst. Die App zeigt die Begrenzungsrahmen und Klassenbeschriftungen in Echtzeit an, während sie die Objekte erkennt.

6. In den Einstellungen der App kannst du die Erkennungsschwelle anpassen, bestimmte Objektklassen aktivieren oder deaktivieren und vieles mehr.

Mit der Ultralytics Android App hast du jetzt die Möglichkeit, Objekte in Echtzeit anhand von YOLO Modellen zu erkennen. Erkunde die Funktionen der App und optimiere ihre Einstellungen für deine speziellen Anwendungsfälle.

Kommentare