Overslaan naar inhoud

Leren exporteren naar TFLite Edge TPU formaat van YOLOv8 model

Het implementeren van computervisie modellen op apparaten met beperkte rekenkracht, zoals mobiele of embedded systemen, kan lastig zijn. Het gebruik van een modelformaat dat is geoptimaliseerd voor snellere prestaties vereenvoudigt het proces. Het modelformaat TensorFlow Lite Edge TPU of TFLite Edge TPU is ontworpen om zo min mogelijk stroom te gebruiken en toch snelle prestaties te leveren voor neurale netwerken.

Met de functie exporteren naar TFLite Edge TPU kun je je modellen optimaliseren voor Ultralytics YOLOv8 modellen optimaliseren voor inferenties met hoge snelheid en laag stroomverbruik. In deze handleiding helpen we je bij het converteren van je modellen naar het TFLite Edge TPU formaat, zodat je modellen beter presteren op verschillende mobiele en embedded apparaten.

Waarom zou je exporteren naar TFLite Edge TPU?

Het exporteren van modellen naar TensorFlow Edge TPU maakt machine learning taken snel en efficiƫnt. Deze technologie is geschikt voor toepassingen met beperkte kracht, rekenkracht en connectiviteit. De Edge TPU is een hardwareversneller van Google. Het versnelt TensorFlow Lite modellen op randapparaten. De afbeelding hieronder toont een voorbeeld van het proces.

TFLite Rand TPU

De Edge TPU werkt met gekwantiseerde modellen. Quantisatie maakt modellen kleiner en sneller zonder veel nauwkeurigheid te verliezen. Het is ideaal voor de beperkte bronnen van edge computing, waardoor applicaties snel kunnen reageren door de latentie te verlagen en snelle gegevensverwerking lokaal mogelijk te maken, zonder afhankelijkheid van de cloud. Lokale verwerking houdt gebruikersgegevens ook privƩ en veilig omdat ze niet naar een externe server worden gestuurd.

Belangrijkste kenmerken van TFLite Edge TPU

Hier zijn de belangrijkste kenmerken die van TFLite Edge TPU een geweldige modelformaatkeuze voor ontwikkelaars maken:

  • Geoptimaliseerde prestaties op randapparaten: De TFLite Edge TPU bereikt snelle neurale netwerkprestaties door kwantisatie, modeloptimalisatie, hardwareversnelling en compileroptimalisatie. De minimalistische architectuur draagt bij aan de kleinere afmetingen en kostenefficiĆ«ntie.

  • Hoge verwerkingscapaciteit: TFLite Edge TPU combineert gespecialiseerde hardwareversnelling en efficiĆ«nte runtime-uitvoering om een hoge rekendoorvoer te bereiken. Het is zeer geschikt voor het implementeren van machine-learning modellen met strenge prestatie-eisen op randapparatuur.

  • EfficiĆ«nte matrixberekeningen: De TensorFlow Edge TPU is geoptimaliseerd voor matrixbewerkingen, die cruciaal zijn voor neurale netwerkberekeningen. Deze efficiĆ«ntie is essentieel voor modellen voor machinaal leren, vooral als er veel en complexe matrixvermenigvuldigingen en transformaties nodig zijn.

Inzetmogelijkheden met TFLite Edge TPU

Voordat we ingaan op het exporteren YOLOv8 modellen naar de TFLite Edge TPU formaat, laten we begrijpen waar TFLite Edge TPU Meestal worden modellen gebruikt.

TFLite Edge TPU biedt verschillende inzetmogelijkheden voor modellen voor machinaal leren, waaronder:

  • Inzet op apparaat: TensorFlow Edge TPU modellen kunnen direct worden ingezet op mobiele en embedded apparaten. On-device inzet zorgt ervoor dat de modellen direct op de hardware worden uitgevoerd, zodat er geen cloudconnectiviteit nodig is.

  • Edge Computing met Cloud TensorFlow TPU's: In scenario's waar randapparaten beperkte verwerkingsmogelijkheden hebben, kunnen TensorFlow Edge TPU's inferentietaken overdragen aan cloudservers die zijn uitgerust met TPU's.

  • Hybride inzet: Een hybride aanpak combineert on-device en cloud inzet en biedt een veelzijdige en schaalbare oplossing voor het inzetten van machine learning modellen. Voordelen zijn onder andere on-device verwerking voor snelle reacties en cloud computing voor complexere berekeningen.

YOLOv8 modellen exporteren naar TFLite Edge TPU

Je kunt de compatibiliteit en inzetflexibiliteit van modellen uitbreiden door YOLOv8 modellen te converteren naar TensorFlow Edge TPU.

Installatie

Voer het volgende uit om het vereiste pakket te installeren:

Installatie

# Install the required package for YOLOv8
pip install ultralytics

Bekijk voor gedetailleerde instructies en best practices met betrekking tot het installatieproces onze Ultralytics Installatiegids. Als je tijdens de installatie van de vereiste pakketten voor YOLOv8 problemen tegenkomt, raadpleeg dan onze gids Veelgestelde problemen voor oplossingen en tips.

Gebruik

Voordat je in de gebruiksinstructies duikt, is het belangrijk om op te merken dat alle Ultralytics YOLOv8 modellen beschikbaar zijn voor exporteren, maar dat je hier kunt controleren of het model dat je kiest de exportfunctionaliteit ondersteunt.

Gebruik

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolov8n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Ga voor meer informatie over ondersteunde exportopties naar de Ultralytics documentatiepagina over implementatieopties.

Geƫxporteerde YOLOv8 TFLite Edge TPU modellen inzetten

Na het succesvol exporteren van je Ultralytics YOLOv8 modellen naar het TFLite Edge TPU formaat, kun je ze nu implementeren. De primaire en aanbevolen eerste stap voor het uitvoeren van een TFLite Edge TPU model is het gebruik van de YOLO("model_edgetpu.tflite") methode, zoals beschreven in het vorige codefragment.

Voor uitgebreide instructies over het inzetten van je TFLite Edge TPU modellen kun je echter de volgende bronnen bekijken:

Samenvatting

In deze handleiding hebben we geleerd hoe u kunt exporteren Ultralytics YOLOv8 modellen naar TFLite Edge TPU formatteren. Door de bovenstaande stappen te volgen, kunt u de snelheid en kracht van uw computer vision-toepassingen verhogen.

Ga voor meer informatie over het gebruik naar de officiƫle website van Edge TPU .

Ga voor meer informatie over andere Ultralytics YOLOv8 integraties ook naar onze integratiegidspagina. Daar vind je waardevolle bronnen en inzichten.

FAQ

Hoe exporteer ik een YOLOv8 model naar het TFLite Edge TPU formaat?

Om een YOLOv8 model te exporteren naar het TFLite Edge TPU formaat, kun je de volgende stappen volgen:

Gebruik

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolov8n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Raadpleeg onze exportgids voor volledige informatie over het exporteren van modellen naar andere formaten.

Wat zijn de voordelen van het exporteren van YOLOv8 modellen naar TFLite Edge TPU?

Het exporteren van YOLOv8 modellen naar TFLite Edge TPU biedt verschillende voordelen:

  • Geoptimaliseerde prestaties: Bereik snelle neurale netwerkprestaties met minimaal stroomverbruik.
  • Verminderde latentie: Snelle lokale gegevensverwerking zonder afhankelijkheid van de cloud.
  • Verbeterde privacy: Lokale verwerking houdt gebruikersgegevens privĆ© en veilig.

Dit maakt het ideaal voor toepassingen in edge computing, waar apparaten beperkte kracht en rekenkracht hebben. Lees meer over waarom je zou moeten exporteren.

Kan ik TFLite Edge TPU modellen inzetten op mobiele en embedded apparaten?

Ja, TensorFlow Lite Edge TPU modellen kunnen direct worden ingezet op mobiele en embedded apparaten. Met deze implementatiemethode kunnen modellen direct op de hardware worden uitgevoerd, waardoor inferenties sneller en efficiƫnter kunnen worden uitgevoerd. Bekijk voor integratievoorbeelden onze gids over het inzetten van Coral Edge TPU op Raspberry Pi.

Wat zijn enkele veelvoorkomende gebruikssituaties voor TFLite Edge TPU modellen?

Gebruikelijke toepassingen voor TFLite Edge TPU modellen zijn onder andere:

  • Slimme camera's: Real-time beeld- en videoanalyse verbeteren.
  • IoT-apparaten: Slimme thuis- en industriĆ«le automatisering mogelijk maken.
  • Gezondheidszorg: Versnelde medische beeldvorming en diagnostiek.
  • Detailhandel: Verbetering van voorraadbeheer en analyse van klantgedrag.

Deze toepassingen profiteren van de hoge prestaties en het lage stroomverbruik van TFLite Edge TPU modellen. Ontdek meer over gebruiksscenario's.

Hoe kan ik problemen oplossen tijdens het exporteren of implementeren van TFLite Edge TPU modellen?

Als je problemen ondervindt bij het exporteren of implementeren van TFLite Edge TPU modellen, raadpleeg dan onze gids Algemene problemen voor tips om problemen op te lossen. In deze handleiding worden veelvoorkomende problemen en oplossingen behandeld om een probleemloze werking te garanderen. Ga voor aanvullende ondersteuning naar ons Helpcentrum.



Aangemaakt 2024-03-13, Bijgewerkt 2024-07-05
Auteurs: glenn-jocher (5), Burhan-Q (1), abirami-vina (1)

Reacties