Leren exporteren naar TFLite Edge TPU formaat van YOLOv8 model

Het implementeren van computervisie modellen op apparaten met beperkte rekenkracht, zoals mobiele of embedded systemen, kan lastig zijn. Het gebruik van een modelformaat dat is geoptimaliseerd voor snellere prestaties vereenvoudigt het proces. Het modelformaat TensorFlow Lite Edge TPU of TFLite Edge TPU is ontworpen om zo min mogelijk stroom te gebruiken en toch snelle prestaties te leveren voor neurale netwerken.

Met de functie exporteren naar TFLite Edge TPU kun je je modellen optimaliseren voor Ultralytics YOLOv8 modellen optimaliseren voor inferenties met hoge snelheid en laag stroomverbruik. In deze handleiding helpen we je bij het converteren van je modellen naar het TFLite Edge TPU formaat, zodat je modellen beter presteren op verschillende mobiele en embedded apparaten.

Waarom zou je exporteren naar TFLite Edge TPU?

Het exporteren van modellen naar TensorFlow Edge TPU maakt machine learning taken snel en efficiënt. Deze technologie is geschikt voor toepassingen met beperkte kracht, rekenkracht en connectiviteit. De Edge TPU is een hardwareversneller van Google. Het versnelt TensorFlow Lite modellen op randapparaten. De afbeelding hieronder toont een voorbeeld van het proces.

De Edge TPU werkt met gekwantiseerde modellen. Quantisatie maakt modellen kleiner en sneller zonder veel nauwkeurigheid te verliezen. Het is ideaal voor de beperkte bronnen van edge computing, waardoor applicaties snel kunnen reageren door de latentie te verlagen en snelle gegevensverwerking lokaal mogelijk te maken, zonder afhankelijkheid van de cloud. Lokale verwerking houdt gebruikersgegevens ook privé en veilig omdat ze niet naar een externe server worden gestuurd.

Belangrijkste kenmerken van TFLite Edge TPU

Hier zijn de belangrijkste kenmerken die van TFLite Edge TPU een geweldige modelformaatkeuze voor ontwikkelaars maken:

• Geoptimaliseerde prestaties op randapparaten: De TFLite Edge TPU bereikt snelle neurale netwerkprestaties door kwantisatie, modeloptimalisatie, hardwareversnelling en compileroptimalisatie. De minimalistische architectuur draagt bij aan de kleinere afmetingen en kostenefficiëntie.

• Hoge verwerkingscapaciteit: TFLite Edge TPU combineert gespecialiseerde hardwareversnelling en efficiënte runtime-uitvoering om een hoge rekendoorvoer te bereiken. Het is zeer geschikt voor het implementeren van machine-learning modellen met strenge prestatie-eisen op randapparatuur.

• Efficiënte matrixberekeningen: De TensorFlow Edge TPU is geoptimaliseerd voor matrixbewerkingen, die cruciaal zijn voor neurale netwerkberekeningen. Deze efficiëntie is essentieel voor modellen voor machinaal leren, vooral als er veel en complexe matrixvermenigvuldigingen en transformaties nodig zijn.

Inzetmogelijkheden met TFLite Edge TPU

Voordat we ingaan op hoe je YOLOv8 modellen kunt exporteren naar het TFLite Edge TPU formaat, moeten we eerst begrijpen waar TFLite Edge TPU modellen meestal worden gebruikt.

TFLite Edge TPU biedt verschillende inzetmogelijkheden voor modellen voor machinaal leren, waaronder:

• Inzet op apparaat: TensorFlow Edge TPU modellen kunnen direct worden ingezet op mobiele en embedded apparaten. On-device inzet zorgt ervoor dat de modellen direct op de hardware worden uitgevoerd, zodat er geen cloudconnectiviteit nodig is.

• Edge Computing met Cloud TensorFlow TPU's: In scenario's waar randapparaten beperkte verwerkingsmogelijkheden hebben, kunnen TensorFlow Edge TPU's inferentietaken overdragen aan cloudservers die zijn uitgerust met TPU's.

• Hybride inzet: Een hybride aanpak combineert on-device en cloud inzet en biedt een veelzijdige en schaalbare oplossing voor het inzetten van machine learning modellen. Voordelen zijn onder andere on-device verwerking voor snelle reacties en cloud computing voor complexere berekeningen.

YOLOv8 modellen exporteren naar TFLite Edge TPU

Je kunt de compatibiliteit en inzetflexibiliteit van modellen uitbreiden door YOLOv8 modellen te converteren naar TensorFlow Edge TPU.

Installatie

Voer het volgende uit om het vereiste pakket te installeren:

# Install the required package for YOLOv8
pip install ultralytics

Bekijk voor gedetailleerde instructies en best practices met betrekking tot het installatieproces onze Ultralytics Installatiegids. Als je tijdens de installatie van de vereiste pakketten voor YOLOv8 problemen tegenkomt, raadpleeg dan onze gids Veelgestelde problemen voor oplossingen en tips.

Gebruik

Voordat je in de gebruiksinstructies duikt, is het belangrijk om op te merken dat alle Ultralytics YOLOv8 modellen beschikbaar zijn voor exporteren, maar dat je hier kunt controleren of het model dat je kiest de exportfunctionaliteit ondersteunt.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TFLite Edge TPU format
model.export(format='edgetpu')  # creates 'yolov8n_full_integer_quant_edgetpu.tflite’

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO('yolov8n_full_integer_quant_edgetpu.tflite')

# Run inference
results = edgetpu_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Ga voor meer informatie over ondersteunde exportopties naar de Ultralytics documentatiepagina over implementatieopties.

Geëxporteerde YOLOv8 TFLite Edge TPU modellen inzetten

Na het succesvol exporteren van je Ultralytics YOLOv8 modellen naar het TFLite Edge TPU formaat, kun je ze nu implementeren. De primaire en aanbevolen eerste stap voor het uitvoeren van een TFLite Edge TPU model is het gebruik van de YOLO("model_edgetpu.tflite") methode, zoals beschreven in het vorige codefragment.

Voor uitgebreide instructies over het inzetten van je TFLite Edge TPU modellen kun je echter de volgende bronnen bekijken:

• Coral Edge TPU op een Raspberry Pi met Ultralytics YOLOv8: Ontdek hoe je Coral Edge TPU's kunt integreren met Raspberry Pi voor verbeterde mogelijkheden voor machinaal leren.

• Code Voorbeelden: Toegang tot praktische TensorFlow Edge TPU implementatievoorbeelden om je projecten een kickstart te geven.

• Voer Inferentie uit op de Edge TPU met Python: Ontdek hoe je de TensorFlow Lite Python API kunt gebruiken voor Edge TPU toepassingen, inclusief richtlijnen voor installatie en gebruik.

Samenvatting

In deze gids hebben we geleerd hoe je Ultralytics YOLOv8 modellen kunt exporteren naar het TFLite Edge TPU formaat. Door de bovenstaande stappen te volgen, kun je de snelheid en kracht van je computervisietoepassingen vergroten.

Ga voor meer informatie over het gebruik naar de officiële website van Edge TPU .

Ga voor meer informatie over andere Ultralytics YOLOv8 integraties ook naar onze integratiegidspagina. Daar vind je waardevolle bronnen en inzichten.

Reacties