Hailo-Export für Ultralytics-YOLO-Modelle#

Hailo-KI-Beschleuniger führen kompilierte Modelle im Hailo Executable Format (HEF) auf Edge-Geräten wie dem AI HAT+ für Raspberry Pi und dem AI HAT+ 2 aus. Mit dem Hailo Dataflow Compiler (DFC) exportiert Ultralytics YOLO-Modelle für Objekterkennung, Segmentierung, semantische Segmentierung, Tiefenschätzung, Klassifizierung, Posenschätzung und OBB direkt in das HEF-Format.

Die Bereitstellung auf Hailo ist auf Computer Vision am Edge ausgelegt: für Kameras, Roboter, Industriesysteme, Gateways und andere Geräte, die eine lokale Objekterkennung benötigen, ohne jedes Bild an die Cloud zu senden. Eine kompilierte HEF-Datei enthält das quantisierte Netzwerk, die Hardwarezuweisung, die Zeitplanung und die optionale HailoRT-Nachverarbeitung für den ausgewählten Beschleuniger.

Warum Ultralytics YOLO auf Hailo bereitstellen?#

Die Kombination von Ultralytics YOLO mit einer Hailo-Neural Processing Unit (NPU) bietet einen praktischen Weg vom Modelltraining bis zur Edge-KI-Inferenz. Typische Anwendungsfälle sind:

• Intelligente Kameras und Videoanalyse: Führe die Objekterkennung in Echtzeit nahe an der Kamera für Anwendungen in den Bereichen Sicherheit, Einzelhandel, Verkehr und Belegung aus.
• Robotik und autonome Systeme: Erkenne Personen, Fahrzeuge, Pakete, Werkzeuge oder Hindernisse, ohne auf eine dauerhafte Cloud-Verbindung angewiesen zu sein.
• Industrielle Computer Vision: Stelle benutzerdefinierte YOLO-Modelle für Inspektion, Zählung, Sicherheitsüberwachung und Qualitätskontrolle bereit.
• Raspberry-Pi-KI-Projekte: Ergänze Raspberry Pi-Systeme mit beschleunigter visueller Inferenz mithilfe des AI HAT+ oder AI HAT+ 2.
• Edge-Gateways und KI-PCs: Verarbeite mehrere Video- oder Sensorstreams lokal und reduziere so den Bedarf an Bandbreite und Cloud-Rechenleistung.

Lokale Inferenz kann den Datenschutz und die Reaktionszeit verbessern, da die Bilder auf dem Bereitstellungsgerät verbleiben. Der tatsächliche Durchsatz, die Latenz und der Stromverbrauch hängen von der Größe des YOLO-Modells, der Eingabeauflösung, der Hailo-Architektur, dem Hostsystem und der Anwendungspipeline ab.

So funktioniert der Hailo-Export#

Ultralytics verantwortet den gesamten Exportworkflow hinter format="hailo":

YOLO (.pt) -> ONNX -> Hailo parse -> INT8 optimization -> HEF compile

Der Exporter führt diese Schritte automatisch aus:

1. Exportiert einen statischen ONNX-Graphen mit compilerkompatiblen Einstellungen.
2. Wählt die Ausgaben des Modellkopfs für die jeweilige Modellarchitektur aus.
3. Erzeugt Anweisungen für Normalisierung, Aktivierung und Nachverarbeitung.
4. Erstellt einen repräsentativen Kalibrierungsdatenstrom und quantisiert das Modell auf INT8.
5. Kompiliert den optimierten Graphen für den ausgewählten Hailo-Beschleuniger.
6. Speichert die HEF mit Ultralytics-Metadaten und entfernt die zwischengespeicherte ONNX-Datei.

YOLOv8- und YOLO11-Erkennungsmodelle verwenden HailoRT YOLO NMS in der kompilierten Pipeline. YOLO26 kompiliert rohe Tensoren des Erkennungskopfs: Ultralytics wendet NMS auf die standardmäßigen One-to-many-Ausgaben an oder dekodiert die NMS-freien One-to-one-Ausgaben mit nms=False. Bei YOLOv8/YOLO11-Segmentierungs-, Pose- und OBB-Modellen werden die rohen Tensoren des Modellkopfs kompiliert, die Ultralytics zur Inferenz dekodiert, und bei der Klassifizierung mit YOLOv8/YOLO11/YOLO26 wird Softmax auf dem Chip ausgeführt, sodass die HEF Klassenwahrscheinlichkeiten direkt zurückgibt. Bei der semantischen Segmentierung mit YOLO26 richtet sich der Exporter nach dem Beschleuniger: Hailo-8/8L (DFC v3.x) geben Klassifikator-Logits für das Hochskalieren und Reduzieren auf dem Host zurück, während Hailo-10H/15 (DFC v5.x) Mehrklassen-ArgMax-Köpfe auf dem Chip kompilieren und eine kompakte Klassenkarte zurückgeben. Köpfe mit nur einer Klasse verwenden auf jedem Zielsystem den Host-Logit-Pfad, da sie einen Schwellenwert statt ArgMax benötigen. YOLO26-Tiefenmodelle kompilieren die dichte Logit-Faltung in a16_w16 und erstellen die metrische Tiefenkarte auf dem Host neu (mit dem Clamp/Exp und der erlernten logarithmisch-affinen Kalibrierung, die auf den Kopf folgen), damit der Quantisierer den größten Wertebereich für den rohen Logit beibehält. Nutzer müssen weder ONNX-Endknoten suchen noch ein Hailo-Modellskript (.alls) schreiben oder manuell eine NMS-JSON-Datei erstellen.

Installation#

Installiere Ultralytics und lade das DFC-Wheel für deine Zielhardware aus der Hailo Developer Zone herunter (kostenlose Registrierung erforderlich):

pip install ultralytics
pip install /path/to/hailo_dataflow_compiler-*.whl

Hailo-8 und Hailo-8L verwenden DFC v3.x. Hailo-10H und Hailo-15 verwenden DFC v5.x. Installiere die Compilergeneration, die zum Zielbeschleuniger passt.

Ein Hailo-HEF-Modell exportieren#

Verwende format="hailo" und wähle den Zielbeschleuniger mit name aus:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
output = model.export(format="hailo", name="hailo8")
print(output)  # yolo11n_hailo_model/

Der entsprechende CLI-Befehl lautet:

yolo export model=yolo11n.pt format=hailo name=hailo8

Der Hailo-Export unterstützt nur INT8. Ultralytics lädt automatisch einen auf die Aufgabe zugeschnittenen Kalibrierungsdatensatz herunter, wenn data nicht angegeben ist. Verwende für benutzerdefinierte Modelle repräsentative Trainings- oder Validierungsbilder:

model.export(format="hailo", name="hailo8", data="path/to/dataset.yaml")

Die Kompilierung verwendet eine feste Eingabegröße. Setze imgsz auf die Auflösung, die auf dem Gerät verwendet wird:

model.export(format="hailo", name="hailo8", imgsz=640)

Unterstützte Modelle und Hardware#

Das Hailo-Ökosystem deckt ein breites Spektrum an Computer-Vision-Aufgaben ab, aber der Ultralytics-Exporter format="hailo" validiert derzeit standardmäßige YOLO-Köpfe für Erkennung, Segmentierung, semantische Segmentierung, Tiefenschätzung, Klassifizierung, Pose und OBB. Die Aufgabentabelle beschreibt die verfügbaren Exportpfade; die Hardwarevalidierung ist weiter unten separat aufgeführt.

Spezialisierte Erkennungsfamilien wie YOLOv10, YOLO-World, YOLOE und RT-DETR werden derzeit über den Ultralytics-Pfad format="hailo" ❌ nicht unterstützt. Ultralytics weist diese Aufgaben und Modellfamilien vor der Kompilierung zurück, anstatt eine nicht validierte HEF zu erzeugen.

Pose, OBB, Klassifizierung, semantische Segmentierung mit YOLO26 und Tiefenschätzung mit YOLO26 (Hailo-8/8L-Pfad) wurden auf Hailo-8L mit HailoRT 4.23 und DFC 3.33 validiert. Der Exporter akzeptiert die anderen aufgeführten Ziele, aber diese neuen Aufgabenpfade müssen vor dem produktiven Einsatz mit dem passenden Compiler und Gerät validiert werden.

Wähle einen dieser name-Werte aus:

Wenn name nicht angegeben ist, wird hailo8l als Standard verwendet; setze name auf den Beschleuniger, auf dem du das Modell bereitstellst. Installiere die DFC-Generation, die zum ausgewählten Ziel passt.

Hailo-Hardware und SDK-Generationen#

Für die Hailo-Beschleunigerfamilien gelten unterschiedliche Compilergenerationen. Die erzeugte HEF muss zur Zielhardware passen. Wähle daher name für das Gerät aus, auf dem die Inferenz ausgeführt wird, und nicht für den Rechner, auf dem der Export erfolgt.

Der Compiler läuft unter Linux x86_64, während die resultierende HEF über HailoRT auf dem Hailo-Gerät ausgeführt wird. Durch diese Trennung kannst du auf einer Workstation oder in Ultralytics Platform kompilieren und das kleine Laufzeitartefakt auf einem ARM- oder x86-Edge-Host bereitstellen.

Hinweise zur Kompatibilität#

Die Hailo-Kompilierung ist hardwareabhängig und verwendet eine feste Eingabegröße. Beachte die folgenden Einschränkungen:

• Der ausgewählte Wert für name muss zum Bereitstellungsbeschleuniger passen.
• Die Kalibrierungsbilder sollten die Lichtverhältnisse, Blickwinkel, Objekte und Hintergründe abbilden, die in der Produktionsumgebung zu erwarten sind.
• Jede HEF wird für einen festen Wert von imgsz kompiliert. Wenn du mehrere Auflösungen verwenden möchtest, skaliere die Bilder auf dem Host auf die kompilierte Größe oder kompiliere für jede Auflösung eine separate HEF.
• Benutzerdefinierte Klassenanzahlen werden unterstützt, da Ultralytics die Konfiguration für die Nachverarbeitung anhand der Modellmetadaten erzeugt.
• Unterstützt werden Erkennungsmodelle mit standardmäßigen Ultralytics-Detect-Köpfen; YOLOv8/YOLO11-Segmentierungs-, Posenschätzungs- und OBB-Modelle; YOLOv8/YOLO11/YOLO26-Klassifizierungsmodelle sowie YOLO26-Modelle für semantische Segmentierung und Tiefenschätzung. YOLO26-Modelle für Instanzsegmentierung, Posenschätzung und orientierte Bounding Boxes sowie Exporte von YOLO-World, YOLOE, YOLOv10 und RT-DETR werden derzeit nicht unterstützt.
• Artefakte für Hailo-8/8L und Hailo-10H/15 werden mit unterschiedlichen DFC-Generationen kompiliert und sind nicht austauschbar.

Kalibrierung und INT8-Quantisierung#

Der Hailo-HEF-Export verwendet INT8-Quantisierung, um das YOLO-Netzwerk effizient auf den Beschleuniger abzubilden. Der Kalibrierungsdatensatz schätzt die Aktivierungsbereiche; das Modell wird dabei weder neu trainiert noch sind während der Kompilierung Labels erforderlich.

Wenn data nicht angegeben ist, verwendet Ultralytics einen leichten, auf die jeweilige Aufgabe abgestimmten Kalibrierungsdatensatz, zum Beispiel COCO128 für die Erkennung, Cityscapes8 für die semantische Segmentierung oder Depth8 für die Tiefenschätzung. Der dichte Tiefenkopf reagiert besonders empfindlich auf die Kalibrierungsdomäne: Wird ein Tiefenmodell mit nicht dazugehörigen Erkennungsbildern kalibriert, wird die vorhergesagte Karte abgeflacht; größere Datensätze aus der passenden Domäne verbessern die Genauigkeit. Verweise bei einem benutzerdefinierten Computer-Vision-Modell data auf die YAML-Datei des Datensatzes, damit der Compiler repräsentative Bilder aus der tatsächlichen Einsatzdomäne verarbeitet:

model.export(format="hailo", name="hailo8", data="my_dataset.yaml")

fraction legt das Verhältnis oder die Anzahl der Bilder für die Kalibrierung fest. [train, val, test]-Listen begrenzen jedes Split, Zwei-Element-Listen lassen test vollständig und 0 überspringt den Test-Split. Mehr Bilder helfen nur, wenn sie die Einsatzdomäne repräsentieren. Bilder aus einer anderen Domäne können die quantisierte Genauigkeit verringern und die Optimierungszeit verlängern. Wenn das INT8-HEF im Vergleich zum ursprünglichen PyTorch-Modell an Genauigkeit verliert, solltest du zuerst die Kalibrierungsdaten verbessern, bevor du Modell- oder Laufzeiteinstellungen änderst.

Genauigkeitserwartungen nach Modellfamilie#

Bei Messungen auf einem Hailo-8L mit Kalibrierung im passenden Anwendungsbereich (COCO128, 128 Bilder) behalten INT8-HEF-Exporte unter demselben Bewertungsverfahren den folgenden Anteil ihres PyTorch-mAP₅₀:

Beim Vergleich wird für beide Modelle derselbe Konfidenzschwellenwert verwendet. Bei YOLOv8- und YOLO11-HEFs wird der beim Export festgelegte Wert conf (Standardwert 0.25) in die On-Chip-NMS übernommen. Wird als PyTorch-Baseline der niedrige Standard-Schwellenwert verwendet, fließt ein größerer Teil der Präzisions-Recall-Kurve ein und die Quantisierungslücke erscheint größer als sie ist.

Zusätzlich zur Objekterkennung wurden die Exportpfade für Segmentierung, Pose, OBB und Klassifizierung auf demselben Hailo-8L (DFC 3.33, HailoRT 4.23) validiert. Jedes INT8-HEF wurde anhand desselben Validierungssplits mit seinem PyTorch-Checkpoint verglichen und mit Daten aus der passenden Domäne kalibriert:

Segmentierung, Pose und OBB wurden jeweils mit dem standardmäßigen Datensatz aus dem passenden Anwendungsbereich kalibriert (COCO128-seg, COCO8-pose, DOTA128); die Klassifizierung wurde mit ImageNet100 kalibriert. Aus diesen Standardwerten ergeben sich zwei Einschränkungen: COCO8-pose umfasst nur 8 Bilder. Betrachte die Pose-Ergebnisse daher als Richtwerte und übergib für den Produktionseinsatz ein größeres data=. Auf DOTA8 erreicht der mAP₅₀ bei beiden Modellen nahezu 100 %, weshalb OBB auf DOTA128 ausgewertet wird. Bei der Klassifizierung behält YOLO11 außerdem als einzige Aufgabe mehr als YOLOv8; bei den übrigen Aufgaben reagiert das YOLO11-Backbone mit Attention empfindlicher auf INT8.

Aus Messungen auf dem Gerät ergeben sich drei praktische Regeln:

1. Immer mit Daten aus der passenden Domäne kalibrieren. Eine Feinabstimmung mit Bildern aus einer anderen Domäne ist gleichbedeutend damit, die Feinabstimmung ganz auszuschalten: Ein mit 1.238 domänenfremden Bildern kalibriertes YOLO26n erreicht dieselbe Genauigkeit (85,7 %) wie ein Modell, das ohne Feinabstimmung kompiliert wurde. Ein kleiner Datensatz aus der passenden Domäne ist besser als ein großer aus einer anderen Domäne.
2. Senke conf bei YOLO26-Bereitstellungen um etwa 0.05. Durch die Quantisierung sinken die YOLO26-Werte im Durchschnitt um rund 0.05, sodass ein in PyTorch abgestimmter Schwellenwert gültige Detektionen im HEF verwirft. Wenn du auf dem Gerät conf=0.20 verwendest, entspricht die Anzahl der Detektionen bei conf=0.25 der in PyTorch. Eine weitere leichte Absenkung (auf etwa conf=0.15) gleicht im Wesentlichen die verbleibende mAP₅₀-Lücke aus, führt jedoch zu mehr Detektionen mit geringer Konfidenz. Durch die Quantisierung wird außerdem die Rangfolge von rund 20 % der Detektionen verändert – ein dauerhafter Effekt, den kein Schwellenwert rückgängig machen kann. Diese Umordnung verhindert jedoch nicht, dass die mAP₅₀-Lücke mit dem niedrigeren Schwellenwert geschlossen wird.
3. Die Leistungseinbuße durch Attention ist bei Hailo-8/8L strukturell bedingt (DFC 3.33). Die Attention-Blöcke werden zu matmul-Operationen kompiliert, die in allen vom Compiler angebotenen Modi INT8-Aktivierungseingaben beibehalten. Der Modus mit 16-Bit-Ausgabe kann für diesen Graphen nicht zugewiesen werden. Auch eine Erhöhung der Präzision der umgebenden Schichten hilft nicht, da die Matmul-Operation ihre Eingaben ohnehin wieder auf INT8 quantisiert (in Tests von Ultralytics blieb mAP unverändert, wenn die Tiefenfaltungs- und Ausgabekonvolutionen auf 16 Bit geschützt wurden). Wenn Genauigkeit höchste Priorität hat und das Modell austauschbar ist, lässt sich YOLO11 hier derzeit besser quantisieren als YOLO26; neuere Hailo-Generationen (DFC 5.x) bieten mehr Optionen für gemischte Präzision und können sich anders verhalten.

Exportierte Artefakte#

Beim Export wird ein Verzeichnis mit dem bereitstellbaren HEF und den Ultralytics-Metadaten erstellt:

yolo11n_hailo_model/
├── yolo11n.hef
├── metadata.yaml
└── nms_config.json

• *.hef ist das kompilierte Modell, das HailoRT lädt.
• metadata.yaml enthält Modellnamen, Aufgabe, Eingabegröße, Schrittweite und Informationen zum Hailo-Ziel.
• nms_config.json enthält die erzeugte HailoRT-NMS-Konfiguration für YOLOv8- und YOLO11-Modelle zur Objekterkennung. Für YOLO26-Modelle zur Objekterkennung und alle Aufgaben ohne Objekterkennung (Segmentierung, semantische Segmentierung, Tiefenschätzung, Klassifizierung, Pose, OBB) wird diese Datei nicht verwendet.

Der zwischengeschaltete ONNX-Graph wird nach der Kompilierung entfernt.

Inferenz auf Hailo-Hardware ausführen#

Installiere HailoRT auf dem Zielgerät. Nutzer von Raspberry Pi AI HAT+ und AI HAT+ 2 können der Anleitung zur Raspberry Pi AI-Software folgen. Unter Raspberry Pi OS können die beiden Paketsätze nicht gleichzeitig installiert werden. Führe daher nur den Abschnitt aus, der zu deiner Hardware passt, und starte das Gerät anschließend neu.

Für AI HAT+ (Hailo-8 / Hailo-8L):

sudo apt install dkms
sudo apt install hailo-all
sudo reboot

Für AI HAT+ 2 (Hailo-10H, Raspberry Pi OS Trixie oder neuer):

sudo apt install dkms
sudo apt install hailo-h10-all
sudo reboot

Prüfe nach dem Neustart, ob der Beschleuniger erkannt wird:

hailortcli fw-control identify

Kopiere das vollständige Exportverzeichnis auf das Gerät, damit metadata.yaml neben dem HEF verbleibt. Ultralytics verwendet HailoRT, um predict und val direkt aus dem exportierten Verzeichnis auszuführen:

from ultralytics import YOLO

model = YOLO("yolo11n_hailo_model")
results = model.predict("path/to/image.jpg")

Bei Erkennungsmodellen wandelt das Backend die HailoRT-NMS-Ausgabe von YOLOv8/YOLO11 um und dekodiert automatisch einen der YOLO26-Köpfe; die standardmäßigen One-to-many-Ausgaben von YOLO26 werden durch die NMS des Prädiktors verarbeitet. Bei anderen Aufgaben dekodiert es rohe Segmentierungs-, Posenschätzungs- und OBB-Tensoren, gibt die Klassifizierungswahrscheinlichkeiten direkt vom Chip zurück und erstellt semantische Klassenkarten durch Reduktion auf dem Host bei Hailo-8/8L und allen einklassigen Köpfen oder durch ein ArgMax direkt auf dem Chip bei mehrklassigen Hailo-10H/15-Köpfen. TAPPAS, GStreamer und der picamera2.devices.Hailo-Helfer für Raspberry Pi bleiben für anwendungsspezifische Pipelines verfügbar.

Für eine GStreamer-Bereitstellung übergib das HEF an hailonet:

gst-launch-1.0 filesrc location=video.mp4 ! decodebin ! videoconvert ! \
  hailonet hef-path=yolo11n_hailo_model/yolo11n.hef ! \
  hailofilter function-name=yolov8 ! hailooverlay ! autovideosink

Hailo-Bereitstellungsoptionen#

Das HEF ist dasselbe bereitstellbare Modellartefakt für mehrere Hailo-Laufzeitumgebungen. Wähle die Schnittstelle, die zur Anwendung passt:

Bewahre metadata.yaml zusammen mit dem HEF auf, wenn die Anwendung Ultralytics-Klassennamen, Eingabegröße, Schrittweite oder andere Modellinformationen benötigt. Das HEF ersetzt nicht die Logik auf Anwendungsebene für Kameraaufnahme, Visualisierung, Tracking, Warnmeldungen oder Speicherung.

Hailo-Gerät und HEF überprüfen#

Überprüfe Laufzeitumgebung und Beschleuniger unabhängig voneinander, bevor du eine Kamera oder Videopipeline integrierst:

hailortcli fw-control identify
hailortcli parse-hef yolo11n_hailo_model/yolo11n.hef

Leistungsmessungen ausschließlich auf dem Gerät trennen die Hailo-Inferenz von Videodekodierung, Bildskalierung, Zeichnen und Ein-/Ausgabe der Anwendung. Miss die vollständige Anwendung zusätzlich separat, wenn du die Ende-zu-Ende-Latenz oder Bilder pro Sekunde ermitteln möchtest.

Benchmarks#

Das Ultralytics-Team hat YOLO26-Modelle verglichen und dabei Geschwindigkeit und Genauigkeit zwischen PyTorch und Hailo untersucht.

Leistung

Raspberry Pi 5 + AI HAT+ (Hailo-8)Weitere Geräte folgen in Kürze!

Modell	Format	Status	Größe (MB)	metrics/mAP50-95(B)	Inferenzzeit (ms/Bild)
YOLO26n	PyTorch	✅	5.3	0.477	364.6
YOLO26n	Hailo	✅	7.3	0.455	21.7

Modell	Format	Status	Größe (MB)	metrics/mIoU	Inferenzzeit (ms/Bild)
YOLO26n-sem	PyTorch	✅	3.3	0.611	831.2
YOLO26n-sem	Hailo	✅	6.2	0.611	34.8

Modell	Format	Status	Größe (MB)	metrics/delta1	metrics/abs_rel	metrics/rmse	Inferenzzeit (ms/Bild)
YOLO26n-depth	PyTorch	✅	12.4	0.8535	0.0983	0.2047	2133.4
YOLO26n-depth	Hailo	✅	9.9	0.8241	0.1232	0.2554	29.6

Modell	Format	Status	Größe (MB)	acc (top1)	acc (top5)	Inferenzzeit (ms/Bild)
YOLO26n-cls	PyTorch	✅	5.5	0.431	0.716	33.8
YOLO26n-cls	Hailo	✅	3.5	0.441	0.716	2.0

Hinweis

Die Validierung der oben genannten Benchmarks erfolgte mit COCO128 für die Erkennung, Cityscapes8 für die semantische Segmentierung, Depth8 für die Tiefenschätzung und ImageNet100 für die Klassifizierung. Cityscapes8 und Depth8 enthalten jeweils nur vier Validierungsbilder. Betrachte daher die Genauigkeitswerte für semantische Segmentierung und Tiefenschätzung als Ergebnisse eines Funktionstests, nicht als Messwerte für den Erhalt der Genauigkeit. Prüfe die Ergebnisse anhand eines vollständigen Datensatzes wie Cityscapes oder NYU Depth V2, bevor du Schlussfolgerungen zur Genauigkeit ziehst. Die Inferenzzeit umfasst keine Vor- und Nachverarbeitung.

Hailo im Vergleich zu anderen YOLO-Exportformaten#

Wähle ein Exportformat passend zur Hardware, auf der das Modell ausgeführt wird. HEF ist hardwarespezifisch und sollte gewählt werden, wenn das endgültige Gerät bereits einen Hailo-Beschleuniger enthält – nicht als universelles oder automatisch schnellstes Edge-Format.

Gehe nicht allein deshalb davon aus, dass Hailo schneller oder energieeffizienter ist, weil es sich um eine NPU handelt. Für neue M.2-Einsätze ist DeepX der stärkere Kandidat für höhere YOLO-Leistung und eine bessere Leistung pro Watt, während Axelera auf einen deutlich höheren Durchsatz bei mehreren Streams ausgelegt ist. Rockchip ist eine beliebte, kostengünstigere Option für SBCs und eingebettete Systeme. TOPS- und Leistungsangaben der Hersteller sind nicht direkt mit Anwendungsbenchmarks vergleichbar. Prüfe deshalb dasselbe YOLO-Checkpoint, dieselbe Eingabegröße und Genauigkeit, denselben Host und dieselbe vollständige Videopipeline auf den infrage kommenden Geräten, bevor du Hardware kaufst.

Die Leistung von Hailo bei Computer Vision optimieren#

Die Wahl des Modells und der Pipeline ist oft wichtiger als Compiler-Flags:

• Beginne mit einem kleinen YOLO-Modell und verwende nur dann ein größeres Modell, wenn es für die nötige Genauigkeit erforderlich ist.
• Wähle den niedrigsten festen Wert für imgsz, bei dem die für die Anwendung wichtigen Objekte noch erkannt werden.
• Verwende nach Möglichkeit Kalibrierungsbilder von der tatsächlichen Kamera und aus der realen Umgebung.
• Lass das Hailo-Netzwerk über mehrere Frames hinweg aktiv, statt das HEF für jede Inferenz erneut zu öffnen.
• Trenne die Inferenzzeit auf dem Gerät von Vorverarbeitung, Videodekodierung, Nachverarbeitung, Visualisierung und Netzwerk-Ein-/Ausgabe.
• Verwende für anhaltende Videoverarbeitung eine Streaming-Pipeline wie GStreamer.
• Validiere die exportierte HEF mit genau dem Beschleuniger und der HailoRT-Version, die in der Produktion verwendet werden.

Exportargumente#

Detektionsexporte mit YOLOv8/YOLO11 erhalten HailoRT NMS. YOLO26 verwendet standardmäßig rohe One-to-many-Ausgaben für NMS auf dem Host; nms=False wählt die NMS-freien One-to-one-Ausgaben. Segmentierung, Pose und OBB verwenden rohe Head-Tensoren, Klassifizierung gibt Wahrscheinlichkeiten auf dem Chip zurück und semantische Segmentierung gibt rohe Logits auf Hailo-8/8L sowie bei allen Heads mit einer Klasse zurück oder vorab berechnete Klassenkarten bei Hailo-10H/15-Heads mit mehreren Klassen. Die Tiefenschätzung gibt das rohe Tiefen-Logit zurück, das Ultralytics bei der Inferenz in eine metrische Tiefenkarte umwandelt. Dynamische Formen, eingebettete Ultralytics NMS, FP16 und FP32 werden nicht unterstützt.

Fehlerbehebung beim Hailo-Export#

Fehler beim Import des Hailo Dataflow Compiler#

Wenn beim Export gemeldet wird, dass hailo_sdk_client fehlt, installiere das DFC-Wheel für die Zielhardwaregeneration in derselben Python-Umgebung wie Ultralytics. Hailo-8/8L und Hailo-10H/15 benötigen unterschiedliche Compiler-Generationen.

Nicht unterstütztes Betriebssystem oder nicht unterstützte Architektur#

Die HEF-Kompilierung wird unter Linux x86_64 unterstützt. Verwende den Export über die Ultralytics Platform oder einen kompatiblen Computer, wenn dein lokaler Rechner macOS, Windows, Raspberry Pi oder ein anderes ARM-System verwendet.

Der Export dauert lange#

Die DFC-Optimierung ist der aufwendigste Schritt. Die Kompilierungszeit steigt mit der Modellgröße, der Eingabeauflösung und den Kalibrierungsdaten. Eine unterstützte GPU kann die Optimierung beschleunigen, während die Kompilierung ausschließlich mit der CPU wesentlich länger dauern kann.

Die Genauigkeit des quantisierten Modells nimmt ab#

Verwende Kalibrierungsbilder, die den Eingaben in der Produktion ähneln und wichtige Objekte, Größen, Lichtverhältnisse und Hintergründe abdecken. Vergleiche vor der Bereitstellung das ursprüngliche PyTorch-Modell und die exportierte HEF mit demselben Validierungssatz. Selbst bei guter Kalibrierung bleibt je nach Modellfamilie eine moderate Abweichung bestehen; die gemessenen Ausgangswerte findest du unter Genauigkeitserwartungen nach Modellfamilie.

HEF lässt sich nicht auf dem Gerät laden#

Stelle sicher, dass name zur physischen Hailo-Architektur passt und dass Gerätetreiber, Firmware und HailoRT-Pakete miteinander kompatibel sind. Untersuche das Artefakt mit hailortcli parse-hef und überprüfe den Beschleuniger mit hailortcli fw-control identify.

Die Ausgabe wird offenbar falsch geparst#

Lege metadata.yaml neben der HEF ab, damit Ultralytics den passenden Nachverarbeitungspfad für YOLOv8, YOLO11 oder YOLO26 auswählen kann. Benutzerdefinierte HailoRT-Anwendungen müssen ihre Nachverarbeitung ebenfalls auf die exportierte Modellfamilie abstimmen.

Zusammenfassung#

Der Hailo-Export von Ultralytics bietet einen direkten Weg von einem trainierten YOLO-Modell zu einer bereitstellbaren HEF:

1. Lade ein YOLOv8-, YOLO11- oder YOLO26-Detektions- oder Klassifizierungsmodell, ein YOLOv8-/YOLO11-Segmentierungs-, Pose- oder OBB-Modell oder ein YOLO26-Modell für semantische Segmentierung oder Tiefenschätzung.
2. Exportiere mit format="hailo" und wähle die Zielarchitektur aus.
3. Kalibriere und kompiliere lokal mit der passenden DFC oder nutze den verwalteten Export in der Ultralytics Platform.
4. Kopiere die HEF und metadata.yaml auf das Edge-Gerät mit Hailo-Beschleuniger.
5. Führe die Inferenz mit HailoRT, Raspberry Pi Picamera2 oder einer GStreamer-Videopipeline aus.

Häufig gestellte Fragen#