Ultralytics YOLOv5 Architektur
YOLOv5 (v6.0/6.1) ist ein leistungsstarker Algorithmus zur Objekterkennung, der von Ultralytics entwickelt wurde. Dieser Artikel befasst sich eingehend mit der Architektur von YOLOv5 , den Strategien zur Datenerweiterung, den Trainingsmethoden und den Verfahren zur Verlustberechnung. Dieses umfassende VerstĂ€ndnis wird Ihnen helfen, die praktische Anwendung der Objekterkennung in verschiedenen Bereichen zu verbessern, darunter Ăberwachung, autonome Fahrzeuge und Bilderkennung.
1. Struktur des Modells
YOLOv5Die Architektur der Website besteht aus drei Hauptteilen:
- Backbone: Dies ist der Hauptteil des Netzes. FĂŒr YOLOv5 wird das Backbone mit Hilfe des
New CSP-Darknet53
Struktur, eine Abwandlung der Darknet-Architektur der VorgÀngerversionen. - Nacken: Dieser Teil verbindet die WirbelsÀule und den Kopf. In YOLOv5,
SPPF
undNew CSP-PAN
Strukturen genutzt werden. - Kopf: Dieser Teil ist fĂŒr die Erzeugung der endgĂŒltigen Ausgabe verantwortlich. YOLOv5 verwendet die
YOLOv3 Head
zu diesem Zweck.
Die Struktur des Modells ist in der nachstehenden Abbildung dargestellt. Die Details der Modellstruktur finden Sie unter yolov5l.yaml
.
YOLOv5 fĂŒhrt im Vergleich zu seinen VorgĂ€ngern einige kleinere Ănderungen ein:
- Die
Focus
Struktur, die in frĂŒheren Versionen zu finden war, wird durch eine6x6 Conv2d
Struktur. Diese Ănderung steigert die Effizienz #4825. - Die
SPP
Struktur wird ersetzt durchSPPF
. Durch diese Ănderung wird die Geschwindigkeit der Verarbeitung mehr als verdoppelt.
Zum Testen der Geschwindigkeit von SPP
und SPPF
kann der folgende Code verwendet werden:
Beispiel fĂŒr SPP vs. SPPF Geschwindigkeitsprofilierung (zum Ăffnen anklicken)
import time
import torch
import torch.nn as nn
class SPP(nn.Module):
def __init__(self):
"""Initializes an SPP module with three different sizes of max pooling layers."""
super().__init__()
self.maxpool1 = nn.MaxPool2d(5, 1, padding=2)
self.maxpool2 = nn.MaxPool2d(9, 1, padding=4)
self.maxpool3 = nn.MaxPool2d(13, 1, padding=6)
def forward(self, x):
"""Applies three max pooling layers on input `x` and concatenates results along channel dimension."""
o1 = self.maxpool1(x)
o2 = self.maxpool2(x)
o3 = self.maxpool3(x)
return torch.cat([x, o1, o2, o3], dim=1)
class SPPF(nn.Module):
def __init__(self):
"""Initializes an SPPF module with a specific configuration of MaxPool2d layer."""
super().__init__()
self.maxpool = nn.MaxPool2d(5, 1, padding=2)
def forward(self, x):
"""Applies sequential max pooling and concatenates results with input tensor."""
o1 = self.maxpool(x)
o2 = self.maxpool(o1)
o3 = self.maxpool(o2)
return torch.cat([x, o1, o2, o3], dim=1)
def main():
"""Compares outputs and performance of SPP and SPPF on a random tensor (8, 32, 16, 16)."""
input_tensor = torch.rand(8, 32, 16, 16)
spp = SPP()
sppf = SPPF()
output1 = spp(input_tensor)
output2 = sppf(input_tensor)
print(torch.equal(output1, output2))
t_start = time.time()
for _ in range(100):
spp(input_tensor)
print(f"SPP time: {time.time() - t_start}")
t_start = time.time()
for _ in range(100):
sppf(input_tensor)
print(f"SPPF time: {time.time() - t_start}")
if __name__ == "__main__":
main()
2. Techniken der Datenerweiterung
YOLOv5 setzt verschiedene Techniken zur Datenerweiterung ein, um die VerallgemeinerungsfĂ€higkeit des Modells zu verbessern und die Ăberanpassung zu verringern. Zu diesen Techniken gehören:
-
Mosaik-Erweiterung: Eine Bildverarbeitungstechnik, bei der vier Trainingsbilder zu einem Bild kombiniert werden, so dass die Objekterkennungsmodelle besser mit verschiedenen ObjektmaĂstĂ€ben und Ăbersetzungen umgehen können.
-
Kopieren-EinfĂŒgen-Erweiterung: Eine innovative Methode zur Datenerweiterung, bei der zufĂ€llige Bereiche aus einem Bild kopiert und in ein anderes, zufĂ€llig ausgewĂ€hltes Bild eingefĂŒgt werden, wodurch ein neues Trainingsmuster entsteht.
-
ZufÀllige affine Transformationen: Dazu gehören zufÀllige Drehungen, Skalierungen, Verschiebungen und Scherungen der Bilder.
-
MixUp-Erweiterung: Eine Methode, die zusammengesetzte Bilder durch eine lineare Kombination von zwei Bildern und ihren zugehörigen Beschriftungen erzeugt.
-
Albumentations: Eine leistungsstarke Bibliothek fĂŒr BildvergröĂerungen, die eine Vielzahl von VergröĂerungstechniken unterstĂŒtzt.
-
HSV-Erweiterung: ZufĂ€llige Ănderungen von Farbton, SĂ€ttigung und Wert der Bilder.
-
ZufÀlliges horizontales Spiegeln: Eine Augmentierungsmethode, die Bilder nach dem Zufallsprinzip horizontal spiegelt.
3. Ausbildungsstrategien
YOLOv5 wendet mehrere ausgeklĂŒgelte Trainingsstrategien an, um die Leistung des Modells zu verbessern. Dazu gehören:
- Multiskalen-Training: Die Eingabebilder werden wĂ€hrend des Trainingsprozesses nach dem Zufallsprinzip in einem Bereich zwischen dem 0,5- und 1,5-fachen ihrer OriginalgröĂe skaliert.
- AutoAnker: Diese Strategie optimiert die vorherigen Ankerboxen so, dass sie den statistischen Eigenschaften der Ground-Truth-Boxen in Ihren benutzerdefinierten Daten entsprechen.
- Warmup und Cosinus LR Scheduler: Eine Methode zur Anpassung der Lernrate zur Verbesserung der Modellleistung.
- Exponentieller gleitender Durchschnitt (EMA): Eine Strategie, die den Durchschnitt der Parameter ĂŒber vergangene Schritte verwendet, um den Trainingsprozess zu stabilisieren und den Generalisierungsfehler zu reduzieren.
- Trainingmit gemischter Genauigkeit: Eine Methode zur DurchfĂŒhrung von Operationen im HalbprĂ€zisionsformat, die den Speicherverbrauch reduziert und die Rechengeschwindigkeit erhöht.
- Hyperparameter-Evolution: Eine Strategie zur automatischen Abstimmung von Hyperparametern, um eine optimale Leistung zu erzielen.
4. ZusÀtzliche Merkmale
4.1 Berechnung von Verlusten
Der Verlust auf YOLOv5 wird als eine Kombination aus drei einzelnen Verlustkomponenten berechnet:
- Klassenverlust (BCE-Verlust): Binary Cross-Entropy Loss, misst den Fehler fĂŒr die Klassifizierungsaufgabe.
- ObjektivitÀtsverlust (BCE-Verlust): Ein weiterer binÀrer Cross-Entropie-Verlust, der den Fehler bei der Feststellung berechnet, ob ein Objekt in einer bestimmten Gitterzelle vorhanden ist oder nicht.
- Lokalisierungsverlust (CIoU-Verlust): VollstÀndiger IoU-Verlust, misst den Fehler bei der Lokalisierung des Objekts innerhalb der Gitterzelle.
Die Gesamtverlustfunktion wird wie folgt dargestellt:
4.2 Bilanzverluste
Die ObjektivitÀtsverluste der drei Vorhersageschichten (P3
, P4
, P5
) werden unterschiedlich gewichtet. Die Ausgleichsgewichte sind [4.0, 1.0, 0.4]
bzw... Dieser Ansatz stellt sicher, dass die Vorhersagen auf den verschiedenen Skalen einen angemessenen Beitrag zum Gesamtverlust leisten.
4.3 Beseitigung der Netzempfindlichkeit
Mit der Architektur von YOLOv5 wurden einige wichtige Ănderungen an der Vorhersagestrategie fĂŒr Boxen im Vergleich zu frĂŒheren Versionen von YOLO vorgenommen. In YOLOv2 und YOLOv3 wurden die Koordinaten der Boxen direkt durch die Aktivierung der letzten Schicht vorhergesagt.
In YOLOv5 wurde jedoch die Formel fĂŒr die Vorhersage der Feldkoordinaten aktualisiert, um die Empfindlichkeit des Gitters zu verringern und zu verhindern, dass das Modell unbegrenzte Feldabmessungen vorhersagt.
Die ĂŒberarbeiteten Formeln zur Berechnung des voraussichtlichen Begrenzungsrahmens lauten wie folgt:
Vergleichen Sie den Mittelpunktsversatz vor und nach der Skalierung. Der Bereich fĂŒr den Mittelpunktversatz reicht von (0, 1) bis (-0,5, 1,5). Daher kann der Versatz leicht 0 oder 1 werden.
Vergleichen Sie das Höhen- und BreitenskalierungsverhĂ€ltnis (relativ zum Anker) vor und nach der Anpassung. Die ursprĂŒnglichen yolo/darknet Box-Gleichungen haben einen schwerwiegenden Makel. Breite und Höhe sind völlig unbegrenzt, da sie einfach out=exp(in) sind, was gefĂ€hrlich ist, da es zu ausufernden Gradienten, InstabilitĂ€ten, NaN-Verlusten und letztlich zu einem vollstĂ€ndigen Verlust des Trainings fĂŒhren kann. siehe dieses Problem
4.4 Build-Ziele
Der Build-Target-Prozess in YOLOv5 ist entscheidend fĂŒr die Trainingseffizienz und die Modellgenauigkeit. Er beinhaltet die Zuweisung von Bodenwahrheitsboxen zu den entsprechenden Rasterzellen in der Ausgabekarte und deren Abgleich mit den entsprechenden Ankerboxen.
Dieser Prozess verlÀuft in folgenden Schritten:
- Berechnen Sie das VerhÀltnis zwischen den Abmessungen der Grundwahrheitsbox und den Abmessungen der einzelnen Ankerschablonen.
- Wenn das berechnete VerhÀltnis innerhalb des Schwellenwerts liegt, wird das Feld der Grundwahrheit mit dem entsprechenden Anker abgeglichen.
- Weisen Sie den passenden Anker den entsprechenden Zellen zu, wobei zu beachten ist, dass aufgrund des geÀnderten Mittelpunktversatzes ein Feld der Grundwahrheit mehr als einem Anker zugewiesen werden kann. Da der Bereich der Mittelpunktsverschiebung von (0, 1) auf (-0,5, 1,5) angepasst wurde. GT Box kann mehreren Ankern zugewiesen werden.
Auf diese Weise stellt der Build-Targets-Prozess sicher, dass jedes Objekt der Grundwahrheit wÀhrend des Trainingsprozesses richtig zugeordnet und abgeglichen wird, wodurch YOLOv5 die Aufgabe der Objekterkennung effektiver erlernen kann.
Schlussfolgerung
Zusammenfassend lĂ€sst sich sagen, dass YOLOv5 einen bedeutenden Schritt vorwĂ€rts in der Entwicklung von Objekterkennungsmodellen in Echtzeit darstellt. Durch die Einbeziehung verschiedener neuer Funktionen, Verbesserungen und Trainingsstrategien ĂŒbertrifft es frĂŒhere Versionen der YOLO Familie an Leistung und Effizienz.
Zu den wichtigsten Verbesserungen von YOLOv5 gehören die Verwendung einer dynamischen Architektur, eine breite Palette von Datenerweiterungstechniken, innovative Trainingsstrategien sowie wichtige Anpassungen bei den Rechenverlusten und dem Prozess der Zielbildung. All diese Neuerungen verbessern die Genauigkeit und Effizienz der Objekterkennung erheblich, wÀhrend gleichzeitig ein hohes Maà an Geschwindigkeit beibehalten wird, was das Markenzeichen der YOLO Modelle ist.