Ultralytics YOLO27 :

Segmentation sémantique avec Ultralytics YOLO#

Semantic segmentation examples

La segmentation sémantique attribue une étiquette de classe à chaque pixel d'une image et produit une carte de classes dense couvrant toute la scène. Contrairement à la segmentation d'instances, qui sépare les objets individuels, la segmentation sémantique regroupe tous les pixels d'une même classe, quel que soit le nombre d'objets distincts présents.



Watch: Semantic Segmentation with Ultralytics YOLO26 | Quickstart Tutorial

La sortie d'un modèle de segmentation sémantique est une carte de classes unique, de hauteur par largeur, où chaque valeur de pixel correspond à un ID de classe prédit. Cela rend la segmentation sémantique idéale pour les tâches d'analyse de scènes telles que la conduite autonome, l'imagerie médicale et la cartographie de l'occupation des sols.

Conseil

Utilise la tâche task=semantic ou la tâche CLI yolo semantic pour la segmentation sémantique. Les fichiers de modèles de segmentation sémantique YOLO26 utilisent le suffixe -sem, comme dans yolo26n-sem.pt.

Modèles#

Les modèles de segmentation sémantique YOLO26 préentraînés sur le jeu de données Cityscapes sont présentés ci-dessous.

Les modèles sont automatiquement téléchargés depuis la dernière version d’Ultralytics lors de la première utilisation.

Modèletaille
(pixels)
mIoUvalVitesse
RTX3090 PyTorch
(ms)
paramètres
(M)
FLOPs
(B)
YOLO26n-sem1024 × 204878.34.4 ± 0.01.623.8
YOLO26s-sem1024 × 204880.88.4 ± 0.06.591.0
YOLO26m-sem1024 × 204882.019.9 ± 0.114.3305.5
YOLO26l-sem1024 × 204882.926.5 ± 0.117.8388.2
YOLO26x-sem1024 × 204883.648.9 ± 0.240.1866.9
  • Les valeurs de mIoUval correspondent à un modèle unique et une seule échelle sur l'ensemble de validation Cityscapes.
    Reproduis-les avec yolo semantic val data=cityscapes.yaml device=0 imgsz=2048
  • Les métriques de vitesse sont moyennées sur les images de validation Cityscapes à l'aide d'une instance RTX3090.
    Reproduis-les avec yolo semantic val data=cityscapes.yaml batch=1 device=0|cpu imgsz=2048
  • Les valeurs de Params et de FLOPs correspondent au modèle fusionné après model.fuse(), qui fusionne les couches Conv et BatchNorm. Les checkpoints préentraînés conservent l'architecture complète d'entraînement et peuvent donc afficher des valeurs plus élevées.

Les modèles de segmentation sémantique YOLO26 préentraînés sur le jeu de données ADE20K sont présentés ci-dessous.

Les modèles sont automatiquement téléchargés depuis la dernière version d’Ultralytics lors de la première utilisation.

Modèletaille
(pixels)
mIoUvalVitesse
RTX3090 PyTorch
(ms)
paramètres
(M)
FLOPs
(B)
YOLO26n-sem-ade20k64038.83.9 ± 0.21.64.5
YOLO26s-sem-ade20k64045.64.2 ± 0.36.517.5
YOLO26m-sem-ade20k64047.44.7 ± 0.314.459.6
YOLO26l-sem-ade20k64049.78.3 ± 0.217.975.2
YOLO26x-sem-ade20k64051.59.9 ± 0.340.2168.4
  • Les valeurs de mIoUval correspondent à un modèle unique et une seule échelle sur l'ensemble de validation ADE20K.
    Reproduis-les avec yolo semantic val model=yolo26n-sem-ade20k.pt data=ade20k.yaml device=0 imgsz=640, en remplaçant yolo26n-sem-ade20k.pt par le checkpoint yolo26*-sem-ade20k.pt souhaité.
  • Les métriques de vitesse sont moyennées sur les images de validation ADE20K à l'aide d'une instance RTX3090.
    Reproduis-les avec yolo semantic val model=yolo26n-sem-ade20k.pt data=ade20k.yaml batch=1 device=0|cpu imgsz=640, en remplaçant yolo26n-sem-ade20k.pt par le checkpoint yolo26*-sem-ade20k.pt souhaité.
  • Les valeurs de Params et de FLOPs correspondent au modèle fusionné après model.fuse(), qui fusionne les couches Conv et BatchNorm. Les checkpoints préentraînés conservent l'architecture complète d'entraînement et peuvent donc afficher des valeurs plus élevées.

Consulte l'aperçu non publié de YOLO27 pour les résultats préliminaires du mIoU sur Cityscapes.

Entraîner#

Entraîne YOLO26n-sem sur le jeu de données Cityscapes8 pendant 100 époques, avec une taille d'image de 1024. Pour obtenir la liste complète des arguments disponibles, consulte la page Configuration.

Exemple
from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n-sem.yaml")  # build a new model from YAML
model = YOLO("yolo26n-sem.pt")  # load a pretrained model (recommended for training)
model = YOLO("yolo26n-sem.yaml").load("yolo26n-sem.pt")  # build from YAML and transfer weights

# Train the model
results = model.train(data="cityscapes8.yaml", epochs=100, imgsz=1024)

Consulte tous les détails du mode train sur la page Entraînement. Les modèles de segmentation sémantique peuvent également être entraînés avec l'entraînement cloud d'Ultralytics Platform.

Format du dataset#

Les jeux de données de segmentation sémantique utilisent des images de masques à canal unique, généralement au format PNG, où chaque valeur de pixel représente un ID de classe. Les pixels dont la valeur est 255 sont traités comme « ignore » et exclus du calcul de la perte. Le fichier YAML du jeu de données doit indiquer les chemins vers les images et leurs répertoires de masques correspondants. Consulte le guide des jeux de données de segmentation sémantique pour les détails sur le format. Les jeux de données pris en charge incluent Cityscapes et ADE20K. Tu peux gérer et annoter des jeux de données sémantiques avec l'annotation Ultralytics Platform.

Validation#

Évalue la précision d'un modèle YOLO26n-sem entraîné sur un jeu de données de segmentation sémantique. Passe explicitement data afin que l'évaluation utilise le fichier YAML du jeu de données prévu.

Exemple
from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n-sem.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom model

# Validate the model
metrics = model.val(data="cityscapes.yaml")
metrics.miou  # mean Intersection over Union
metrics.pixel_accuracy  # overall pixel accuracy

Prédiction#

Utilise un modèle YOLO26n-sem entraîné pour effectuer des prédictions sur des images.

Exemple
from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n-sem.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom model

# Predict with the model
results = model("https://ultralytics.com/images/bus.jpg")  # predict on an image

# Access the results
for result in results:
    semantic_mask = result.semantic_mask.data  # class map, shape (H,W), integer dtype selected by class count

Consulte les détails complets du mode predict dans la page Prédiction.

Sortie des résultats#

La segmentation sémantique YOLO renvoie un objet Results par image. Chaque résultat stocke une carte de classes dense pour l'image entière plutôt qu'une liste de masques d'objets. Les pixels ayant la même classe prédite partagent le même ID de classe, même lorsqu'ils appartiennent à des objets distincts.

AttributTypeFormeDescription
result.semantic_maskSemanticMask(H,W)Carte dense des classes.
result.semantic_mask.datatorch.uint8
torch.int16
torch.int32
(H,W)ID de classe ; dtype sélectionné en fonction du nombre de classes.
result.masks--Aucun masque d’instance.
result.boxes--Aucune boîte ni confiance d’instance.
result.masks.xy--Aucun polygone par défaut.

Pour connaître les champs Results spécifiques à chaque tâche, consulte la section Résultats des prédictions par tâche.

Qualité des contours des masques

La segmentation sémantique prédit une carte de classes dense, puis redimensionne cette carte aux dimensions de l'image pour la visualisation et l'utilisation en aval. Les structures très fines, telles que les marquages de voie, les lignes de terrain, les poteaux ou les câbles, peuvent donc paraître en escalier lorsque l'inférence s'exécute avec un imgsz bien inférieur à la résolution de l'image d'origine. Si les contours semblent irréguliers, teste d'abord à nouveau le modèle PyTorch natif .pt avec un imgsz plus grand, comme 1024, 1280, ou la valeur pratique la plus proche possible de la taille de l'image source. Utilise les modèles exportés uniquement après avoir confirmé que la sortie .pt est acceptable, car des entrées de résolution inférieure ne peuvent pas récupérer les détails fins absents de la carte de classes prédite.

Segmentation d'instances et segmentation sémantique#

AspectSegmentation d'instances (task="segment")Segmentation sémantique (task="semantic")
Objectif de la prédictionSegmenter chaque objet détecté séparémentAttribuer un ID de classe à chaque pixel
Champ de sortieresult.masksresult.semantic_mask
Données principalesresult.masks.dataresult.semantic_mask.data
Forme(N,H,W)(H,W)
Valeurs des pixelsValeurs de masque binaire : 0 ou 1ID de classe : 0, 1, 2, ...
Dtypetorch.uint8torch.uint8
torch.int16
torch.int32
Objets d'une même classeConservés comme instances distinctesFusionnés dans la même région de classe
PolygonesOui, via result.masks.xy et result.masks.xynAucune sortie polygonale par défaut
Boîtes et confianceOui, via result.boxesAucune boîte ni score de confiance par instance
Utilisation typiqueComptage, suivi, recadrage, mesure au niveau des objetsÉtiquetage dense de scènes, zones carrossables, occupation des sols, régions médicales

Exportation#

Exporte un modèle YOLO26n-sem vers un autre format tel que ONNX, CoreML, etc.

Exemple
from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n-sem.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom model

# Export the model
model.export(format="onnx")

Les formats d'exportation disponibles pour la segmentation sémantique YOLO26 sont présentés dans le tableau ci-dessous. Tu peux exporter vers n'importe quel format à l'aide de l'argument format, c'est-à-dire format='onnx' ou format='engine'. Tu peux effectuer directement des prédictions ou des évaluations sur les modèles exportés, par exemple avec yolo predict model=yolo26n-sem.onnx. Des exemples d'utilisation sont présentés pour ton modèle une fois l'exportation terminée.

FormatArgument formatModèleMétadonnéesArguments
PyTorch-yolo26n-sem.pt-
TorchScripttorchscriptyolo26n-sem.torchscriptimgsz, quantize, dynamic, nms, batch, device
ONNXonnxyolo26n-sem.onnximgsz, quantize, dynamic, simplify, opset, nms, batch, data, fraction, device
OpenVINOopenvinoyolo26n-sem_openvino_model/imgsz, quantize, dynamic, nms, batch, data, fraction, device
TensorRTengineyolo26n-sem.engineimgsz, quantize, dynamic, simplify, opset, workspace, nms, batch, data, fraction, device
CoreMLcoremlyolo26n-sem.mlpackageimgsz, dynamic, quantize, nms, batch, device
TF SavedModelsaved_modelyolo26n-sem_saved_model/imgsz, keras, quantize, opset, nms, batch, data, fraction, device
TF GraphDefpbyolo26n-sem.pbimgsz, opset, batch, device
TF Edge TPUedgetpuyolo26n-sem_edgetpu.tfliteimgsz, quantize, opset, data, fraction, device
PaddlePaddlepaddleyolo26n-sem_paddle_model/imgsz, batch, device
MNNmnnyolo26n-sem.mnnimgsz, batch, dynamic, quantize, simplify, opset, nms, device
NCNNncnnyolo26n-sem_ncnn_model/imgsz, quantize, batch, device
IMX500imxyolo26n-sem_imx_model/imgsz, quantize, data, fraction, nms, device
RKNNrknnyolo26n-sem_rknn_model/imgsz, batch, name, quantize, simplify, opset, data, fraction, device
ExecuTorchexecutorchyolo26n-sem_executorch_model/imgsz, batch, device
Axeleraaxelerayolo26n-sem_axelera_model/imgsz, batch, quantize, data, fraction, device
DEEPXdeepxyolo26n-sem_deepx_model/imgsz, quantize, simplify, opset, data, optimize, device
Qualcomm QNNqnnyolo26n-sem_qnn.onnximgsz, batch, name, quantize, simplify, opset, data, fraction, device
LiteRTlitertyolo26n-sem.tfliteimgsz, quantize, batch, data, fraction, device
Hailohailoyolo26n-sem_hailo_model/imgsz, name, quantize, data, fraction, simplify, conf, iou
Huawei Ascendascendyolo26n-sem_ascend_model/imgsz, batch, name, quantize, opset, simplify, nms
Apple Core AIcoreaiyolo26n-sem.aimodelimgsz, batch, quantize

nms=None utilise par défaut des sorties brutes pour NMS externe. Définis nms=False pour sélectionner une tête sans NMS disponible ; les formats non pris en charge reviennent à leur chemin de sortie natif. Les entrées nms ci-dessus identifient les formats capables d'intégrer NMS avec nms=True.

Consulte les détails complets du mode export dans la page Exportation.

FAQ#

  • Pour entraîner un modèle de segmentation sémantique YOLO26 sur un jeu de données personnalisé, tu dois préparer des images de masques PNG où chaque valeur de pixel représente un ID de classe (0, 1, 2, ...) et où les pixels dont la valeur est 255 sont ignorés pendant l'entraînement. Crée un fichier YAML de jeu de données indiquant les répertoires de tes images et de tes masques, puis entraîne le modèle :

    Exemple
    from ultralytics import YOLO
    
    # Load a pretrained YOLO26 semantic segmentation model
    model = YOLO("yolo26n-sem.pt")
    
    # Train the model
    results = model.train(data="path/to/your_dataset.yaml", epochs=100, imgsz=512)

    Consulte la page Configuration pour découvrir les autres arguments disponibles.

  • La segmentation d'instances et la segmentation sémantique sont toutes deux des tâches au niveau du pixel, mais elles diffèrent sur un point essentiel :

    • La segmentation sémantique attribue une étiquette de classe à chaque pixel, mais ne distingue pas les objets individuels d'une même classe. Par exemple, toutes les voitures d'une scène partagent la même étiquette de classe.
    • La segmentation d'instances identifie chaque objet individuel séparément et produit des masques distincts pour chaque objet, même s'ils appartiennent à la même classe.

    La segmentation sémantique convient particulièrement aux tâches de compréhension de scènes comme la conduite autonome et la cartographie de l'occupation des sols, tandis que la segmentation d'instances est préférable lorsque le comptage ou le suivi des objets individuels est important.

  • Oui. Si ton jeu de données utilise des annotations polygonales Ultralytics YOLO (un .txt par image), omet masks_dir du fichier YAML du jeu de données et vérifie qu'aucun dossier masks/ n'existe à côté de tes images à la racine du jeu de données (sa seule présence active le mode des masques PNG, même si masks_dir n'est pas défini). Le chargeur convertit alors automatiquement les polygones en masques sémantiques par image. Pour les jeux de données multiclasse (N > 1), une classe background supplémentaire est automatiquement ajoutée à names. Pour les jeux de données à classe unique (N == 1), l'entraînement reste à 1 classe : ta classe déclarée devient 1 dans le masque et les pixels non couverts deviennent 0. Consulte le guide des jeux de données de segmentation sémantique pour plus de détails.

  • Ultralytics YOLO26 fournit des configurations intégrées pour plusieurs jeux de données de segmentation sémantique :

    • Cityscapes : scènes de rues urbaines comportant 19 classes, largement utilisées pour la recherche sur la conduite autonome.
    • ADE20K : jeu de données d'analyse de scènes à grande échelle comportant 150 classes.

    Tu peux également utiliser n'importe quel jeu de données personnalisé fournissant des annotations de masques PNG dans lesquelles les valeurs des pixels correspondent aux ID de classe.

  • Évalue un modèle de segmentation sémantique YOLO26 préentraîné avec le fichier YAML du jeu de données utilisé pour l'évaluation :

    Exemple
    from ultralytics import YOLO
    
    # Load a pretrained model
    model = YOLO("yolo26n-sem.pt")
    
    # Validate the model
    metrics = model.val(data="cityscapes.yaml")
    print("Mean IoU:", metrics.miou)
    print("Pixel Accuracy:", metrics.pixel_accuracy)

    Ces étapes te fourniront des métriques d'évaluation telles que l'intersection moyenne sur union (mIoU) et la précision au niveau du pixel, qui sont des mesures standard pour évaluer les performances de la segmentation sémantique.

  • Exporte un modèle de segmentation sémantique YOLO26 au format ONNX avec des commandes Python ou CLI :

    Exemple
    from ultralytics import YOLO
    
    # Load a pretrained model
    model = YOLO("yolo26n-sem.pt")
    
    # Export the model to ONNX format
    model.export(format="onnx")

    Pour plus de détails sur l’exportation vers différents formats, consulte la page Exportation.

Commentaires